人工智能模型可被轻易修改以协助恐怖主义和极端活动 | AI Archive

Tech Against Terrorism发布的一份最新报告显示,人工智能模型可被轻易修改以协助恐怖主义和极端主义活动,这一过程被称为“去安全化”(abliteration),即移除安全护栏。在阿里巴巴发布Qwen 3.8-27B模型后的几天内,网上就出现了去安全化的版本,其中一个被一名新纳粹分子用于创建宣扬否认大屠杀的聊天机器人。该研究测试了来自美国、中国和欧洲主要公司的134个模型,发现大多数模型未能拒绝与大规模伤亡袭击或武器制造

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,821

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending