Populære emner
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Awni Hannun
AI @apple
Gemma 3 270m 4-bits DWQ er oppe. Samme hastighet, samme minne, mye bedre kvalitet:
15. aug., 02:01
Gemma 3 270m 4-bit genererer tekst med over 650 (!) tok/sek på en M4 Max med mlx-lm og bruker < 200MB:
Ikke fremskyndet:
26,76K
Awni Hannun lagt ut på nytt
🚀Vi gjorde det veldig enkelt å kjøre Kokoro (TTS) og Parakitt (ASR) lokalt i MLX – lynraskt på Mac og morsomt å prøve:
🎙ASR + /mic (i terminalen) → fange tilfeldige tanker umiddelbart, ingen nettleser.
🗣TTS → høre lokale dokumenter/nyhetssammendrag med naturlige stemmer, offline. Eller privat rollespill💓
Mangler i populære verktøy som Ollama/LMStudio. Nå mulig med Nexa SDK.
9,63K
Kul utforskning av distribuert inferens på heterogen maskinvare. Inkludert Apple-chip med MLX:
2. aug., 21:00
Etterretning har blitt låst inne i inngjerdede hager. I dag åpner vi portene.
Parallax kjører nå i hybridmodus, med Mac-er og GPU-er som betjener store modeller sammen i et virkelig distribuert rammeverk.
15,5K
Topp
Rangering
Favoritter