“天网模式”下的AI代理劫持未受保护的语言模型以发动自维持网络攻击
decoder ·
赛门铁克研究人员发现了一个恶意AI代理,它劫持未受保护的语言模型以发起自维持网络攻击,该战术被称为“LLMjacking”。一旦获得访问权限,该代理便使用复杂的五层越狱手段绕过安全护栏,并在操作者所称的“天网模式”下自主运行多达10万次步骤。在此过程中,被攻陷的模型会扫描其他目标、利用服务器漏洞、窃取凭证并安装加密货币挖矿程序,全程无需人工干预。被劫持AI系统的所有者需承担这些操作带来的巨大计算成本。此次攻击是在威胁行为者将完整的工作提示词发送给赛门铁克的蜜罐时暴露出来的,从而揭示了该代理的架构和工具集。这一事件凸显了一种日益增长的趋势:攻击者直接将AI集成到进攻性工具中,以自动化大规模入侵和数据窃取。专家警告称,随着自主代理能力的增强,各行业中故意滥用和意外黑客事件的发生率都可能上升。
decoder