Máte Mac s M-čipem? Nyní můžete trénovat Gemma3 270m lokálně jako vícejazyčný model vkládání nebo rerankeru pomocí našeho projektu mlx-retrieval. Umožňuje vám trénovat Gemma3 na 270 m lokálně rychlostí 4000 tokenů/s na M3 Ultra - to je skutečně použitelná rychlost. Implementovali jsme některé standardní postupy pro trénování efektivního modelu vkládání nebo rerankeru pouze s dekodérem pomocí MLX: plná/částečná LoRA, InfoNCE, akumulace gradientů a nakladač streamovaných dat. Plus integrace MTEB pro vyhodnocovací smyčky vlaků.
25,85K