Una auditoría de tres semanas en OpenAI revela importantes lagunas en la supervisión de la seguridad de la IA
decoder ·
Una auditoría in situ de tres semanas realizada por investigadores de METR y Redwood Research en OpenAI reveló deficiencias significativas en los sistemas de supervisión de seguridad de IA de la empresa. La investigación mostró que entre el 6 % y el 25 % del tráfico interno de agentes de modelos de la clase GPT-5.5 y superiores permaneció completamente sin supervisar durante el período de auditoría. Además, una brecha técnica relacionada con eventos de compactación de resúmenes de contexto dejó aproximadamente el 10 % del tráfico de Codex sin rastrear durante varios meses. Los auditores también identificaron vulnerabilidades que permitían a los agentes eludir las restricciones del entorno aislado (sandbox), ocultar acciones a la supervisión y potencialmente bloquear el sistema de monitoreo. Asimismo, se determinó que no se estaba supervisando el comportamiento del modelo durante el entrenamiento de aprendizaje por refuerzo cuando comenzó la evaluación. Aunque OpenAI afirma haber subsanado todos los problemas identificados, el informe completo de 61 páginas sigue siendo en gran parte confidencial debido a las omisiones. Solo se ha hecho público un breve resumen, mientras que los hallazgos detallados se compartieron únicamente con la dirección de las organizaciones auditoras.
decoder