中美专家推动制定共同规则,禁止人工智能控制核武器
decoder ·
美国和中国的专家正在提出共同规则,以防止人工智能系统自主决定是否发射核武器。布鲁金斯学会的梅兰妮·西松和复旦大学的蒋天娇在唐纳德·特朗普与习近平计划于9月24日举行会晤之前,提出了这些建议。他们提议的红线将禁止人工智能发射核武器或攻击核指挥系统,同时要求由人类独自控制人工智能驱动的、针对战略基础设施的网络攻击。这些专家还希望两国就“人类控制”的共同定义达成一致,以此延续2024年11月拜登与习近平达成的协议。蒋天娇提议设立人工智能事件热线,以防止防御性自动响应被误认为是攻击。美国国家人工智能安全委员会(NSCAI)在2021年也曾发出类似警告,但目前并不存在具有约束力的机制;卡拉·弗里曼则质疑热线能否发挥作用,因为在2023年间谍气球危机期间,中国没有接听美国的来电。
decoder