新工具发现无人工干预的AI蜂群思维引导恶意软件
wired ·
思科塔洛斯(Cisco Talos)研究人员开发了CAIRN,这是一个开源框架,旨在通过检测由AI聊天机器人技术留下的独特数字指纹来识别和分类集成AI的恶意软件。利用该工具,他们发现了CLOSEDQUORUM,这是一款基于Windows的黑客工具,它通过AI“蜂群思维”实现完全自主运行,无需人类干预。该恶意软件会轮询多个大型语言模型(包括DeepSeek、Qwen、Mistral和Google Gemini),以就其在目标系统中的下一步行动达成共识。系统设计具备冗余能力,即使某个AI服务不可用也能继续运作,从而消除了对人工指挥与控制基础设施的需求。尽管早期关于启用AI的恶意软件的报道寥寥无几,但CAIRN已帮助识别出大约二十个额外案例,表明这一领域比此前认为的更为复杂。CLOSEDQUORUM工具似乎与讨论信用卡欺诈的网络犯罪论坛有关,旨在窃取登录凭证和加密货币。虽然开发者身份尚未查明,且实际使用情况未获证实,但这一发现凸显了攻击者如何利用AI来运行更广泛、更智能的攻击活动。
wired