Artigo de New @ScienceAdvances propondo um teste simples para viés: A mesma pessoa é tratada de forma diferente quando sua raça é percebida de forma diferente? Especificamente, perguntamos: o mesmo motorista é mais provável de ser revistado pela polícia quando é percebido como hispânico em vez de branco? 1/

Não entendemos completamente as preferências codificadas pelo feedback humano, portanto, treinar sobre ele pode ser arriscado. Propomos um método para descobrir automaticamente essas preferências! Identificamos preferências inseguras, contraditórias e subjetivas e melhoramos a segurança, avaliação e personalização do modelo.

Você tem muitos modelos para escolher e poucos dados rotulados para avaliá-los? Confira nosso artigo #neurips2025, que apresenta um método para estimar o desempenho do modelo com mais precisão do que os métodos anteriores usando dados rotulados + não rotulados.