Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Jeg liker virkelig dette resultatet: en elegant innramming og løsning for å forbedre lengdegeneralisering betydelig i tilbakevendende modeller for øvrig (RNN-er/SSM-er/lineær oppmerksomhet/etc).
Dette har betydelige implikasjoner for problemene arkitekturforskere bør fokusere på, IMO
8. juli 2025
Til tross for at de teoretisk håndterer lange kontekster, kommer eksisterende tilbakevendende modeller fortsatt til kort: de klarer kanskje ikke å generalisere forbi treningslengden. Vi viser en enkel og generell løsning som muliggjør lengdegeneralisering i opptil 256k sekvenser, uten behov for å endre arkitekturene!
13,07K
Topp
Rangering
Favoritter