Hai un Mac con un chip M? Ora puoi addestrare Gemma3 270m localmente come modello di embedding multilingue o reranker utilizzando il nostro progetto mlx-retrieval. Ti consente di addestrare Gemma3 270m localmente a 4000 token/s su M3 Ultra - una velocità effettivamente utilizzabile. Abbiamo implementato alcune pratiche standard per addestrare un modello di embedding o reranker efficace solo con decoder con MLX: LoRA completo/parziale, InfoNCE, accumulo dei gradienti e caricatore di dati in streaming. Inoltre, integrazione MTEB per cicli di addestramento-valutazione.
28,11K