Meta właśnie opublikowało ten dokument, który ujawnia tajemniczy przepis na uczenie przez wzmocnienie (RL) w LLM-ach. Zawiera przepis na RL, wykorzystuje 400 000 godzin GPU i sugeruje prawo skalowania dla wydajności przy większej mocy obliczeniowej w RL, podobnie jak klasyczne prawa skalowania wstępnego uczenia. Obowiązkowa lektura dla nerdów AI.

Źródło: