Har du en Mac med M-brikke? Du kan nå trene Gemma3 270m lokalt som en flerspråklig innbyggings- eller reranker-modell ved hjelp av vårt mlx-henteprosjekt. Den lar deg trene Gemma3 270m lokalt med 4000 tokens/s på M3 Ultra - det er faktisk brukbar hastighet. Vi har implementert noen standardpraksiser for opplæring av en effektiv innebygging eller rerangeringsmodell med kun dekoder med MLX: full/delvis LoRA, InfoNCE, gradientakkumulering og strømming av datainnlaster. Pluss MTEB-integrasjon for togevalueringssløyfer.