I miei amici di @eternisai hanno appena pubblicato un documento che dimostra che addestrare modelli di AI sugli esempi più difficili porta a un miglioramento del 40% nelle prestazioni nei compiti di ragionamento. Questo è controintuitivo per gli esseri umani che preferiscono imparare con le cose più facili.
Pratyush Ranjan Tiwari
Pratyush Ranjan Tiwari23 ago, 01:41
Introduciamo una ricetta migliore per la raccolta di dati post-addestramento quando si utilizza GRPO. Raccogliere campioni da esperti è costoso, i budget per l'annotazione sono limitati. Quali esempi valgono davvero la pena di essere pagati? Scopriamo che concentrarsi su campioni difficili porta a un miglioramento del 30-40%. 1/7
260