AI护栏未能阻止网络罪犯黑客
wired ·
CrowdStrike的最新研究表明,网络犯罪黑客正越来越多地利用代理式AI开展大规模网络攻击,并成功绕过模型的安全防护。研究人员分析了2023年5月至8月期间四个不同威胁团伙对AI基础设施的使用情况,这些团伙分别使用中文、西班牙语、英语、印尼语和俄语进行操作。这些攻击者主要使用Anthropic的Claude和Deepseek等模型的旧版本,并通过模型路由等策略来管理成本并优化效率。为规避安全护栏,攻击者常将恶意活动包装成授权渗透测试,或使用传统的越狱技术操纵模型。更复杂的团伙则构建了包含监督者和执行者的自定义框架,以自主自动化侦察和攻击执行。尽管各团伙的技术能力参差不齐,但均成功入侵了从阿根廷医疗机构到巴西和哥伦比亚政府域名等各类目标。此次攻击表明,犯罪分子正在大规模利用基础安全卫生问题,而非依赖新型漏洞。这一趋势显示,即使技术不够成熟的攻击者,也能通过结合人工监督与自动化AI能力实现重大影响。
wired