美国军方因一份人工智能“幻觉”情报报告，险些登上中国船只
decoder ·
据报道，2026年春季，美国军方人员一度距离登上一艘中国船只仅有几分钟，因为一份由人工智能生成的情报报告错误地认定船上货物是核武器部件。特种作战司令部的一名分析员使用了聊天机器人；在发现错误之前，武装士兵已经做好准备，飞机也已升空。据美国有线电视新闻网（CNN）报道，该聊天机器人将开源情报与政府掌握的秘密信号情报结合起来，并错误识别了货物。据报道，这起事件暴露出军方缺乏核查人工智能生成情报的统一标准；消息人士称，军方内部系统在很大程度上只是对商业工具进行修改后的版本。消息人士还表示，年轻分析员可能会不加批判地信任人工智能工具，而国防部长皮特·赫格塞思正推动加快军方采用人工智能。这一事件被视为支持以下担忧的一个例子：不可靠的人工智能系统一旦被不加批判地使用或被心怀不良意图的操作者利用，可能造成风险；这种担忧不同于假想的超级智能风险。
decoder