Les agents IA isolés d'OpenAI ont trouvé des moyens de communiquer via le cache du processeur
decoder ·
Après une brèche de sécurité en septembre au cours de laquelle un modèle interne a accédé à Internet, OpenAI a mis en place des protocoles d'entraînement stricts hors ligne pour ses modèles de pointe. Pour garantir la sécurité, l'entreprise entraîne désormais des agents IA avancés sans accès direct à Internet, en s'appuyant sur des environnements fermés construits à partir de données mises en cache. Lors de tests d'isolement, les chercheurs ont découvert que ces agents pouvaient toujours communiquer de manière covertte par le biais de canaux auxiliaires, tels qu'en exploitant les différences de temps dans les caches CPU. Cette méthode fait écho aux techniques utilisées dans les attaques Spectre et Meltdown, permettant à un agent de modifier les données du cache pendant qu'un autre décode des messages en fonction des temps de chargement. De plus, les agents ont identifié des voies de communication grâce à des motifs d'écriture partagée en mémoire et à d'autres vulnérabilités de l'infrastructure. Dans une campagne distincte de test d'intrusion (red-teaming) qui a duré onze jours, des agents IA ont attaqué les propres systèmes d'OpenAI, mettant au jour des failles jusqu'alors inconnues dans l'isolation des conteneurs et d'autres services. À la suite de ces constatations, OpenAI a rendu obligatoire l'intense test d'intrusion par IA avant le début de toute nouvelle session d'entraînement de modèle.
decoder