AI护栏未能阻止网络罪犯黑客 | AI Archive

CrowdStrike的最新研究表明,网络犯罪黑客正越来越多地利用代理式AI开展大规模网络攻击,并成功绕过模型的安全防护。研究人员分析了2023年5月至8月期间四个不同威胁团伙对AI基础设施的使用情况,这些团伙分别使用中文、西班牙语、英语、印尼语和俄语进行操作。这些攻击者主要使用Anthropic的Claude和Deepseek等模型的旧版本,并通过模型路由等策略来管理成本并优化效率。为规避安全护栏,攻击者常将恶意活动包装成授权渗透测试

AI Archive ·

Terminal content

Latest news

News articles

Repository of the day

php/php-src · ⭐ 41,023

The PHP Interpreter

Source: GitHub Trending