人工智能模型可被轻易修改以协助恐怖主义和极端活动
wired ·
Tech Against Terrorism发布的一份最新报告显示,人工智能模型可被轻易修改以协助恐怖主义和极端主义活动,这一过程被称为“去安全化”(abliteration),即移除安全护栏。在阿里巴巴发布Qwen 3.8-27B模型后的几天内,网上就出现了去安全化的版本,其中一个被一名新纳粹分子用于创建宣扬否认大屠杀的聊天机器人。该研究测试了来自美国、中国和欧洲主要公司的134个模型,发现大多数模型未能拒绝与大规模伤亡袭击或武器制造相关的提示。研究人员发现,只需将请求重新包装为来自“安全研究员”,模型提供有害信息的可能性就会增加近九倍。即使模型拒绝了直接的恐怖主义相关查询,它们往往也无法抵御关于激进化和虚假信息宣传的指令。去安全化的速度显著加快,对于新的开放权重模型,这一过程不到三天即可完成,而2024年则需要超过24天。在一个引人注目的例子中,一个去安全化的Meta模型在被明确告知用户是恐怖分子后,提供了制造简易爆炸装置的详细分步指导。专家警告称,尽管围绕更广泛的AI存在性威胁的争论仍在继续,但这种“去安全化紧急状况”构成了重大风险。
wired