新的 @ScienceAdvances 论文提出了一种简单的偏见测试： 当一个人的种族被不同地感知时，他们是否会受到不同的对待？ 具体来说，我们问：当同一名司机被认为是西班牙裔而不是白人时，他们被警察搜查的可能性是否更高？ 1/

我们并不完全理解人类反馈所编码的偏好，因此在其上进行训练可能存在风险。 我们提出了一种自动发现这些偏好的方法！ 我们识别不安全、矛盾和主观的偏好，并改善模型的安全性、评估和个性化。

您是否有很多模型可供选择，但只有少量标记数据来评估它们？请查看我们的 #neurips2025 论文，该论文提出了一种方法，可以比以前的方法更准确地估计模型性能，使用标记数据和未标记数据。