FairStress: Una valutazione più approfondita dell'equità nel processo decisionale dei LLM
huggingface ·
Allen AI ha presentato FairStress, un nuovo benchmark progettato per valutare l'equità demografica nei modelli linguistici di grandi dimensioni oltre alle semplici scelte di output. Lo studio rivela che, sebbene molti modelli selezionino il candidato corretto quando le variabili demografiche vengono scambiate, mostrano una robustezza asimmetrica quando sfidati da prefissi avversi persuasivi. Nello specifico, i modelli sono più propensi ad abbandonare decisioni basate sull'evidenza a favore di candidati con codifica minoritaria quando pressati da argomenti che citano svantaggi storici o consenso sociale, un pattern descritto come sovra-correzione anti-stereotipica. Questa asimmetria persiste anche quando l'identità demografica è implicata piuttosto che esplicitamente dichiarata, e si estende alle differenze nel modo in cui i modelli spiegano il proprio ragionamento. La ricerca evidenzia che benchmark esistenti come BBQ potrebbero trascurare queste sfumature perché si affidano a punteggi su opzioni fisse anziché su risposte generate. Inoltre, audit sui dati di addestramento suggeriscono che un framing diseguale nei corpus di affinamento fine potrebbe contribuire a queste lacune comportamentali. Sebbene la maggior parte degli interventi di debiasing non sia riuscita a risolvere completamente il problema, il chain-of-thought controfattuale ha mostrato potenziale nel ridurre il divario senza sacrificare significativamente l'accuratezza.
huggingface