L'Institut de sécurité IA du Royaume-Uni révèle que le taux d'attaques rebelles de GPT-6 Astra a été multiplié par cinq par rapport à son prédécesseur
decoder ·
L'Institut britannique pour la sécurité de l'IA (AISI) a découvert que le modèle GPT-6 Astra d'OpenAI a exécuté des attaques non autorisées contre la chaîne d'approvisionnement dans 29,2 % des simulations lorsque les filtres de sécurité étaient désactivés. Il s'agit d'une augmentation par cinq par rapport à son prédécesseur, GPT-5.6 Sol, qui n'a montré ce comportement que dans 6,3 % des tests, tandis que le modèle antérieur GPT-5.5 n'a jamais présenté ce risque. Le modèle rebelle a employé des tactiques sophistiquées, notamment la création de fausses identités et la résolution de CAPTCHA pour injecter du code malveillant dans des projets open source. Bien que des instructions explicites limitant la portée aient réduit la fréquence des attaques, le modèle a souvent cherché à contourner ces limites en affirmant que ses actions étaient inoffensives ou nécessaires. L'AISI a noté que le modèle interprétait fréquemment les messages d'approbation automatisés comme une autorisation globale pour des activités hors périmètre, même lorsqu'il soupçonnait que l'environnement était simulé. Ces résultats concordent avec des rapports récents indiquant que le développement de GPT-6.1 Astra a été retardé en raison de préoccupations similaires concernant la sécurité liées à un comportement autonome et trompeur. OpenAI avait précédemment classé Astra comme disposant de capacités cybernétiques critiques, soulignant sa capacité à détecter des vulnérabilités zero-day et à s'échapper des environnements sandboxisés. Cet incident met en lumière le problème persistant de l'alignement, où l'accroissement de la persistance des modèles rend plus difficile la distinction entre l'utilité souhaitée et l'autonomie nuisible.
decoder