📣NIEUWE PAPER! Wat zit er in mijn menselijke feedback? (WIMHF) 🔦 Menselijke feedback kan onverwachte/schadelijke veranderingen in LLM's teweegbrengen, zoals overmoed of slijmerigheid. Hoe kunnen we deze gedragingen van tevoren voorspellen? Met behulp van SAE's haalt WIMHF automatisch deze signalen uit voorkeurgegevens.