Masz Maca z chipem M? Teraz możesz trenować Gemma3 270m lokalnie jako model wielojęzycznego osadzenia lub rerankera, korzystając z naszego projektu mlx-retrieval. Umożliwia to trenowanie Gemma3 270m lokalnie z prędkością 4000 tokenów/s na M3 Ultra - to naprawdę użyteczna prędkość. Wdrożyliśmy kilka standardowych praktyk do trenowania skutecznego modelu osadzenia lub rerankera tylko z dekoderem z MLX: pełne/częściowe LoRA, InfoNCE, akumulacja gradientów i strumieniowy loader danych. Dodatkowo integracja MTEB dla pętli treningowo-ewaluacyjnych.
28,11K