Bạn có một chiếc Mac với chip M? Bây giờ bạn có thể huấn luyện Gemma3 270m tại chỗ như một mô hình nhúng đa ngôn ngữ hoặc mô hình xếp hạng lại bằng cách sử dụng dự án mlx-retrieval của chúng tôi. Nó cho phép bạn huấn luyện Gemma3 270m tại chỗ với tốc độ 4000 token/s trên M3 Ultra - đó thực sự là tốc độ có thể sử dụng được. Chúng tôi đã triển khai một số thực tiễn tiêu chuẩn để huấn luyện một mô hình nhúng hoặc xếp hạng lại chỉ với bộ giải mã hiệu quả với MLX: LoRA toàn phần/ một phần, InfoNCE, tích lũy gradient và trình tải dữ liệu theo luồng. Thêm vào đó là tích hợp MTEB cho các vòng lặp huấn luyện-đánh giá.