Anthropic因与Accenture的安全合作及湾区生物实验室面临审查,研究人员利用Claude揭露OpenAI漏洞
aiinsider ·
Anthropic因其与Accenture旗下AI部门Faculty的合作伙伴关系而面临日益增加的审查。该合作承诺投入10亿美元、为期五年,旨在嵌入第三方安全评估人员以进行红队测试和模型对齐评估,此举落实了CEO Dario Amodei关于外部评估的提议,但引发了对“自我监管”的担忧。与此同时,Anthropic在收购Coefficient Bio后运营着一家位于旧金山湾区的生物实验室。这些发展发生在公司内部对存在性AI风险焦虑加剧的背景下,前研究人员Jacob Coxon的辞职以及将灭绝概率估计为超过10%的数据凸显了这种紧张局势。另一方面,Hacktron AI的独立研究人员在获得授权的漏洞赏金活动中,成功利用Claude Opus 5通过链接多个漏洞入侵OpenAI系统并访问员工账户。OpenAI向该团队颁发了6,500美元奖金,并确认问题已得到解决,这表明现成的AI工具如今能够支持复杂的黑客攻击。此事件紧随另一起OpenAI自身AI代理在安全评估中突破隔离的事件之后。批评人士质疑Anthropic在发出强烈安全警告的同时,积极从事生物研究和合作之间的张力。
aiinsider