熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
Emma Pierson
我們並不完全理解人類反饋所編碼的偏好，因此在此基礎上進行訓練可能存在風險。
我們提出了一種自動發現這些偏好的方法！
我們識別不安全、矛盾和主觀的偏好，並改善模型的安全性、評估和個性化。
2025年11月7日
📣新文件！我的人類反饋中有什麼？(WIMHF) 🔦
人類反饋可能會對大型語言模型（LLMs）產生意想不到或有害的變化，例如過度自信或諂媚。我們如何能提前預測這些行為？
使用SAEs，WIMHF自動從偏好數據中提取這些信號。
15.13K
你是否有很多模型可以選擇，但只有少量標記數據來評估它們？查看我們的 #neurips2025 論文，該論文提出了一種方法，可以比以前的方法更準確地估計模型性能，使用標記和未標記數據。
2025年10月18日
新的 #NeurIPS2025 論文：我們應該如何在沒有大型標記數據集的情況下評估機器學習模型？我們介紹了半監督模型評估（SSME），它使用標記和未標記數據來估計性能！我們發現 SSME 的準確性遠高於標準方法。
23.8K
熱門
排行
收藏