Máte Mac s M-čipem? Nyní můžete trénovat Gemma3 270m lokálně jako vícejazyčný model vkládání nebo rerankeru pomocí našeho projektu mlx-retrieval. Umožňuje vám trénovat Gemma3 na 270 m lokálně rychlostí 4000 tokenů/s na M3 Ultra - to je skutečně použitelná rychlost. Implementovali jsme některé standardní postupy pro trénování efektivního modelu vkládání nebo rerankeru pouze s dekodérem pomocí MLX: plná/částečná LoRA, InfoNCE, akumulace gradientů a nakladač streamovaných dat. Plus integrace MTEB pro vyhodnocovací smyčky vlaků.

MLX-VLM v0.3.3 je zde gr Nové modely: - @LiquidAI_ LFM2-VL - @Zai_org GLM-4.5V - @cohere Command-A-Vision Změny: - Nové jádro pro grid_sample - Opravte kompatibilitu bikubického interpolovaného jádra s macOS < 15 - Opravte dědičnost konfigurace Moc děkuji všem úžasným přátelům na @lmstudio: @ostensiblyneil, @mattjcly a christian-lms. Začínáme: > pip install -U mlx-vlm Prosíme, zanechte nám hvězdičku:

MLX-Audio v0.2.4 je zde 🔥🚀 Nové modely: - IndexTTS - Voxtral Změny: # Krajta - Podpora více modelů pro Visualizer - Oprava zastaralého ukládání v MLX-LM - Opravte kodek mimi - Aktualizace načítání CSM pro styl TFMS # Rychlý - Použijte vlastní URL pro Kokoro - Průvodce odstraňováním problémů - Přidejte Misaki G2P tokenizer pro Kokoro Moc děkujeme všem úžasným přispěvatelům: @lllucas, @ivanfioravanti, @adrgrondin, Senstella, Sam a Kinkadius! Rozjet: > pip install -U mlx-audio Zanechte nám prosím hvězdičku ⭐:

Gemma 3 270M (8-bit) je rychlá i na iPhone 16 Pro 🏎️ ~140 tk/s pro čip A18 Pro s MLX, ne tak daleko od čipu M3 I když Gemma 3 270M není určena pro chat, je ideální pro použití s Apple Shortcuts na úkolech, jako je například shrnutí

Skvělý nový projekt MLX: mlx-knife: nástroj CLI podobný ollame pro modely MLX na huggingface (pull, rm, list, show, serve, ...)

Trénink ve vysoké nadmořské výšce dělá LLM silnějším

Kdo by si nevyzkoušel výcvik klasifikátoru s MLX a Gemmou 3 270m za letu?

Gemma 3 270M (8 bitů) při ~200 tk/s na iPadu Air M3 s MLX

Ve 44 řádcích kódu máme skutečně užitečného agenta, který běží zcela lokálně, poháněný Qwen3 30B A3B Instruct

Nvidia Parakeet v3 je venku! Užijte si podporu Day 0 s Argmax SDK - Co se změnilo od verze 2? - Jak se používá? - Mám na tento model upgradovat hned? Odpovědi v komentářích