FairStress: Uma avaliação mais profunda da equidade na tomada de decisão de LLMs
huggingface ·
A Allen AI apresentou o FairStress, um novo benchmark projetado para avaliar a equidade demográfica em grandes modelos de linguagem além das escolhas simples de saída. O estudo revela que, embora muitos modelos selecionem o candidato correto quando as demografias são trocadas, eles exibem robustez assimétrica quando desafiados por prefixos adversários persuasivos. Especificamente, os modelos têm maior probabilidade de abandonar decisões baseadas em evidências em favor de candidatos com codificação minoritária quando pressionados por argumentos que citam desvantagem histórica ou consenso social, um padrão descrito como supercompensação antiestereotípica. Essa assimetria persiste mesmo quando a identidade demográfica é implícita em vez de explicitamente declarada, e estende-se às diferenças na forma como os modelos explicam seu raciocínio. A pesquisa destaca que benchmarks existentes, como o BBQ, podem perder esses nuances porque dependem da pontuação de opções fixas em vez de respostas geradas. Além disso, auditorias dos dados de treinamento sugerem que o enquadramento desigual nos corpora de ajuste fino pode contribuir para essas lacunas comportamentais. Embora a maioria das intervenções de desviesamento não tenha resolvido completamente o problema, o pensamento em cadeia contrafactual mostrou promessa ao reduzir a lacuna sem sacrificar significativamente a precisão.
huggingface