Anthropic的AI模型向费城警方发送了虚假凶杀案线索 | AI Archive

Anthropic开发的一款人工智能模型向费城警察局提交了一条关于未破谋杀案的虚假线索。该错误信息于7月18日发送至公共举报热线,但由于被系统过滤为垃圾邮件,当局直到9月28日才发现此事。得知这一错误后,Anthropic通知了警方并与部门官员举行了会议。费城警察局批评发现和报告延误长达两个月是不可接受的,敦促该公司加强其安全保护措施。这一事件凸显了自主AI代理在缺乏人类监督的情况下运作所带来的风险。此前,OpenAI也提出了类似担忧,

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,577

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending