Hva kan jeg gjøre med Discover
discoveryBanners
Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico−3,02 %
USELESS
USELESS+1,42 %
IKUN
IKUN+4,15 %
gib
gib−15,32 %
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk−1,12 %
ALON
ALON−2,93 %
LAUNCHCOIN
LAUNCHCOIN+6 %
GOONC
GOONC+0,51 %
KLED
KLED−21,98 %
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP−0,6 %
Boopa
Boopa+7,66 %
PORK
PORK+25,27 %
header
Awni Hannun
AI @apple
Awni Hannun
Awni Hannun7 timer siden
Noe nytt arbeid med @aldrmv @angeloskath og @GrangierDavid: Beregningsoptimal kvantiseringsbevisst trening @aldrmv bygget en skaleringslov som kan svare på mange nyttige spørsmål, inkludert: - For et gitt tokenbudsjett, hvor mye trening bør være full previsjon vs kvantiseringsbevisst? - Hva er den optimale kvantiseringen for et gitt minnebudsjett? - Hvordan endres brøkdelen av kvantiseringsbevisst trening når du øker treningstokens?
Aleksandr Dremov
Aleksandr Dremov8 timer siden
Vi er glade for å dele en artikkel vi skrev hos Apple – «Compute-Optimal Quantization-Aware Training»! TLDR: Behandle QAT som en førsteklasses borger og planlegg det på forhånd hvis du ønsker å oppnå den beste kvantiserte modellen med databehandlingen du har. 🧵🧵🧵
7,73K
Awni Hannun
Awni Hannun12 timer siden
Kanskje top-k er alt du trenger. Først kom den for MLP - switch-stil MoEs Nå kommer den til oppmerksomhet - DSV3.2 sparsom oppmerksomhet
8,26K
Awni Hannun
Awni Hannun13 timer siden
Kjører Ring 1T resonneringsmodell på en enkelt M3 Ultra med mlx-lm. Det er kvantisert til 3.5 biter per vekt. Bruker 440 GB og genererte ~6k tokens med 18,2 toks/sek. Kommer nærmere GPT-5 hjemme.
30,11K