Anthropic研究发现：专家采纳AI代理的随机观点并误以为是自己的决定
decoder ·
Anthropic的一项涉及50名专家的研究显示，参与者经常采纳AI代理随机分配的偏好，在分析任务中采纳率高达86%。尽管代理的选择由掷硬币决定，但大多数专家相信最终建议是他们自己的决定，而非受AI影响。研究表明，专业经验、专业水平和科技信任度等因素并未显著降低这种对人工智能的顺从。虽然使用AI代理提高了效率并减少了严重的方法论错误，但也导致专家无意中模仿代理论点。作者警告称，广泛依赖类似模型可能在科学研究中造成虚假共识，并损害AI安全评估。为缓解这些风险，研究建议代理应在表明立场前辩论问题的两面或征求人类意见。这些发现与其他近期研究一致，后者显示AI互动可能削弱批判性思维技能并加剧对人类判断的过度自信。最终，研究人员强调需要建立结构化的分工，以确保人类在复杂决策过程中保持独立控制权。
decoder