FairStress:对大语言模型决策中公平性的更深入评估 | AI Archive

Allen AI推出了FairStress,这是一个旨在评估大语言模型在简单输出选择之外的人口统计学公平性的新基准。研究表明,尽管许多模型在人口统计特征互换时能选出正确的候选人,但在面对具有说服力的对抗性前缀挑战时,其鲁棒性呈现不对称性。具体而言,当受到引用历史劣势或社会共识的论点施压时,模型更倾向于放弃基于证据的决策,转而支持带有少数群体特征的候选人,这种现象被描述为“反刻板印象的过度纠正”。即使人口统计身份是隐含而非明确陈述的,这种

AI Archive ·

Terminal content

Latest news

News articles

Repository of the day

php/php-src · ⭐ 41,023

The PHP Interpreter

Source: GitHub Trending