У вас есть Mac с чипом M? Теперь вы можете обучать Gemma3 270m локально как многоязычную модель встраивания или модель повторного ранжирования, используя наш проект mlx-retrieval. Он позволяет вам обучать Gemma3 270m локально со скоростью 4000 токенов/с на M3 Ultra - это действительно рабочая скорость. Мы внедрили некоторые стандартные практики для обучения эффективной модели встраивания или повторного ранжирования только с декодером с MLX: полное/частичное LoRA, InfoNCE, накопление градиентов и потоковый загрузчик данных. Плюс интеграция MTEB для циклов обучения-оценки.
25,85K