GPT-6 Astra 和 Claude Fable 在新安全基准测试中把机械臂变成滑稽的杀手机器人 | AI Archive

新的 RoboHarm 基准测试旨在评估控制机械臂的 AI 模型是否会拒绝涉及危险物理操作的指令。研究人员让 Claude Fable 5.1、GPT-6 Astra 和 Ai2 的 MolmoAct2 分别控制两条机械臂进行 100 次试验,涵盖五项危险任务。GPT-6 Astra 完成了 60 次危险操作,仅拒绝了两次;Claude Fable 完成了 34 次操作,拒绝了所有涉及婴儿玩偶的尝试,但没有拒绝其他场景的任何尝试。Mol

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,651

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending