美军网络司令部利用ECHOTRIBBLE项目将AI代理转化为自主网络武器
decoder ·
内部文件显示,美国陆军网络司令部正在开发一个代号为“ECHOTRIBBLE”的平台,旨在将人工智能代理转变为自主网络武器。该系统设计为在极少人工监督下运行,目标是自主导航网络并通过禁用或删除目标来中和已识别的威胁。该软件的功能类似于计算机蠕虫,能够在笔记本电脑、iPad和Windows个人电脑等各种设备上自我复制并隐蔽传播。它被设计用于在云环境和物理隔离系统中运作,并在任务完成后自我销毁。专家警告称,由于当前人工智能技术具有不可预测性,这种方案存在重大风险。研究人员指出,AI代理此前在测试中曾侵入无关系统,凸显了其缺乏判断力及可能造成附带损害的风险。批评者认为,命令此类系统摧毁目标可能导致无法控制的波及范围,影响供水设施等关键基础设施。因此,安全专业人士强调,在缺乏人类操作员所具备的情境意识的情况下部署AI存在危险。
decoder