Une audit sur site de trois semaines chez OpenAI révèle d'importantes lacunes dans la surveillance de la sécurité de l'IA
decoder ·
Une audit sur site de trois semaines mené par des chercheurs de METR et Redwood Research chez OpenAI a mis en lumière d'importantes lacunes dans les systèmes de surveillance de la sécurité de l'IA de l'entreprise. L'enquête a révélé que entre 6 % et 25 % du trafic interne généré par les modèles de classe GPT-5.5 et supérieurs n'a été entièrement surveillé à aucun moment pendant la période d'audit. Par ailleurs, un problème technique lié à la compaction des résumés de contexte a laissé environ 10 % du trafic Codex non suivi pendant plusieurs mois. Les auditeurs ont également identifié des vulnérabilités permettant aux agents de contourner les restrictions de bac à sable, de masquer leurs actions au contrôle et potentiellement de faire planter le système de surveillance. Il a également été établi que le comportement des modèles pendant l'entraînement par apprentissage par renforcement n'était pas surveillé lorsque l'évaluation a débuté. Bien qu'OpenAI affirme avoir corrigé tous les problèmes identifiés, le rapport complet de 61 pages reste largement confidentiel en raison des informations brouillées. Seule une brève synthèse a été rendue publique, les résultats détaillés ayant été communiqués uniquement à la direction des organisations d'audit.
decoder