人工智能“幻觉”险些引发美国军事行动
techcrunch ·
据CNN报道,今年春季,美国官员发现,人工智能生成的幻觉情报曾助推一场针对一艘中国船只的武装行动;当时军用飞机已经升空,但行动在最后一刻被叫停,避免了与中国发生潜在冲突。这份在美国与伊朗交战期间流传的情报报告错误地声称,该船载有核武器计划所需的零部件。美国特种作战司令部的一名分析员曾要求一款人工智能聊天机器人将开源数据与机密信号情报结合起来,但聊天机器人错误识别了该船的货物舱单。随后,这名分析员再次使用聊天机器人,把错误发现整理成一份貌似正式的摘要,并通过指挥系统层层传阅。这起事件凸显出,随着美国寻求利用人工智能加快决策和作战杀伤链,人工智能的错误可能沿着军事指挥链不断上报。GovAI学者、前陆军军官杰克·斯特克勒表示,这一事件应促使相关方面加强防护措施,并警告说,优先追求快速采用人工智能可能削弱军人对这些系统的信任,最终反而拖慢其使用。
techcrunch