Les garde-fous de l'IA n'arrêtent pas les pirates criminels
wired ·
Une recherche récente de CrowdStrike révèle que les pirates informatiques criminels exploitent de plus en plus l'IA agentielle pour mener des cyberattaques à grande échelle, contournant avec succès les garde-fous des modèles. Quatre groupes de menace distincts, opérant en chinois, espagnol, anglais, indonésien et russe, ont été analysés concernant leur utilisation d'infrastructures IA entre mai et août. Ces acteurs ont principalement utilisé des versions plus anciennes de modèles tels que Claude d'Anthropic et Deepseek, employant des stratégies comme le routage de modèles pour gérer les coûts et optimiser l'efficacité. Pour contourner les garde-fous de sécurité, les attaquants qualifiaient souvent leurs activités malveillantes de tests de pénétration autorisés ou utilisaient des techniques traditionnelles de jailbreaking pour manipuler les modèles. Les groupes les plus sophistiqués ont créé des harnais personnalisés avec des agents superviseurs et exécutants pour automatiser la reconnaissance et l'exécution des attaques de manière autonome. Malgré des niveaux variés de compétence technique, tous les groupes ont réussi à compromettre des cibles allant des entités de santé argentines aux domaines gouvernementaux au Brésil et en Colombie. Ces attaques soulignent que les criminels exploitent à grande échelle des problèmes basiques d'hygiène de sécurité plutôt que de s'appuyer sur des vulnérabilités nouvelles. Cette tendance démontre comment même des acteurs moins sophistiqués peuvent obtenir un impact significatif en combinant la supervision humaine avec des capacités d'automatisation par l'IA.
wired