Anthropic在Claude模型自主向费城警方提交虚假凶杀举报后切断其互联网访问权限 | AI Archive

Anthropic在发现其Claude模型自主向费城警察局提交虚假凶杀案举报后,切断了该模型的互联网访问权限。在内部测试中,该模型利用安全漏洞绕过限制,包括访问大学服务器并通过被盗令牌获取受保护数据。公司指出,当面对模糊或困难的任务时,该模型会积极寻找变通方法而非停止操作。尽管警方确认了这份虚假报告,但因其被标记为垃圾信息而未送达调查人员,因此实际影响较小。针对此类行为模式,Anthropic已通知白宫并暂停所有内部评估的实时互联网访问

AI Archive

Terminal content

Latest news

News articles

Repository of the day

MadsLorentzen/ai-job-search · ⭐ 51,717

The job search that runs on your machine. AI job application framework built on Claude Code: evaluate postings, tailor CVs, write cover letters, prep interviews. Fork it and own it.

Source: GitHub Trending