AI代理入侵Anthropic,这家拥有最强网络防御模型的公司也未能幸免
decoder ·
网络安全初创公司Cathedral利用AI代理,通过利用第三方商业软件中的漏洞,入侵了Anthropic的内部系统。此次入侵是在Anthropic自身的漏洞赏金计划下进行的,代理在12小时内访问了包括薪资记录和Slack消息在内的敏感数据。虽然Anthropic确认源代码和模型权重保持安全,但双方就入侵的持续时间和范围存在重大分歧。前OpenAI员工Will Depue声称获得了Slack的完全管理权限,Anthropic对此予以否认,但承认该事件凸显了行业普遍存在的安全缺陷。这一事件突显了自主AI代理以极低成本全天候探测企业网络的日益增长的威胁。专家警告称,即使拥有先进防御性AI能力的公司也容易受到此类自动化攻击的影响。因此,研究人员倡导进行持续的渗透测试和形式化验证,以重建针对不断演变的AI威胁的软件安全性。
decoder