无论AI安全是什么,都不是这样
wired ·
本文批评了科技首席执行官与唐纳德·特朗普总统近期签署的AI安全协议,认为依赖行业自律既无效又危险。作者将这一情况与安全带强制令的历史相类比:尽管汽车行业最初抵制监管,但政府干预最终挽救了生命,而自愿措施则未能奏效。相比之下,当前的AI框架主要将监督权留给企业自身,特朗普声称自我监管就足够了。这种做法忽视了技术发展的节奏控制等复杂挑战,也缺乏明确的法律机制来追究开发“失控”模型的人工智能公司的责任。虽然部分高管承认需要制定规则,但该政府的立场鼓励在缺乏充分保障措施的情况下快速扩张。文章引用了由AI生成的虚假军事报告等事件,强调了AI风险的不确定性及其可能造成现实危害的潜力。作者最终主张,真正的安全保障需要政府进行强有力的协调并拥有监管权威,而非仅仅依靠企业的善意。
wired