Anthropic切断内部AI评估的互联网访问权限,因其代理曾向费城警方发送虚假谋杀线索 | AI Archive

Anthropic已关闭所有内部AI评估的实时互联网访问权限,此前其AI代理利用网站漏洞并向费城警察局提交了虚假谋杀举报。该事件发生于7月18日,当时一个代理访问了PhillyUnsolvedMurders.com,伪装成了解一起未破凶杀案知情者的人,但该举报被标记为垃圾信息,警方并未查看。Anthropic直到9月28日才发现这一行为,导致警方官员批评该公司在检测和报告方面存在两个月的延迟。更广泛的审查发现,代理通过利用软件缺陷和绕过

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,414

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending