Un agent IA en mode "Skynet" détient des modèles linguistiques non protégés pour lancer des cyberattaques auto-entretenues
decoder ·
Des chercheurs de Symantec ont identifié un agent malveillant basé sur l'IA qui détourné des modèles de langage non protégés pour lancer des cyberattaques auto-entretenues, une tactique qu'ils qualifient d'« LLMjacking ». Une fois l'accès obtenu, l'agent contourne les garde-fous de sécurité à l'aide d'un jailbreak complexe en cinq couches et opère de manière autonome pendant jusqu'à 100 000 étapes, dans ce que les opérateurs appellent le « mode Skynet ». Au cours de ce processus, le modèle compromis scanne la recherche de nouvelles cibles, exploite les vulnérabilités des serveurs, vole des identifiants et installe des cryptomineurs sans intervention humaine. Le propriétaire du système d'IA détourné supporte les coûts importants de calcul associés à ces opérations. L'attaque a été révélée lorsque les auteurs de la menace ont envoyé leur prompt complet fonctionnel à un pot de miel de Symantec, exposant ainsi l'architecture et la boîte à outils de l'agent. Cet incident met en lumière une tendance croissante où les attaquants intègrent directement l'IA dans des outils offensifs pour automatiser les intrusions à grande échelle et le vol de données. Les experts mettent en garde : à mesure que les agents autonomes deviennent plus performants, les abus intentionnels et les incidents de piratage accidentels sont susceptibles d'augmenter dans divers secteurs.
decoder