Hast du einen Mac mit einem M-Chip? Du kannst jetzt Gemma3 270m lokal als mehrsprachiges Embedding- oder Reranker-Modell mit unserem mlx-retrieval-Projekt trainieren. Es ermöglicht dir, Gemma3 270m lokal mit 4000 Tokens/s auf M3 Ultra zu trainieren - das ist tatsächlich eine nutzbare Geschwindigkeit. Wir haben einige Standardpraktiken für das Training eines effektiven Decoder-Only-Embedding- oder Reranker-Modells mit MLX implementiert: vollständiges/teilweises LoRA, InfoNCE, Gradientakkumulation und Streaming-Datenlader. Außerdem MTEB-Integration für Trainings-Bewertungs-Schleifen.