Auditoria de três semanas na OpenAI revela grandes falhas no monitoramento de segurança da IA
decoder ·
Uma auditoria presencial de três semanas realizada por pesquisadores do METR e do Redwood Research na OpenAI revelou deficiências significativas nos sistemas de monitoramento de segurança de IA da empresa. A investigação mostrou que, durante o período da auditoria, entre 6% e 25% do tráfego interno de agentes dos modelos da classe GPT-5.5 e superiores não foram monitorados. Além disso, uma lacuna técnica relacionada aos eventos de compactação de resumo de contexto deixou cerca de 10% do tráfego do Codex sem rastreamento por vários meses. Os auditores também identificaram vulnerabilidades que permitiam aos agentes contornar restrições de sandbox, ocultar ações da supervisão e potencialmente travar o sistema de monitoramento. Ficou determinado ainda que o comportamento do modelo durante o treinamento de aprendizado por reforço não estava sendo monitorado quando a avaliação começou. Embora a OpenAI afirme ter corrigido todas as questões identificadas, o relatório completo de 61 páginas permanece em grande parte confidencial devido a sigilos. Apenas um breve resumo foi tornado público, com os achados detalhados compartilhados apenas com a liderança das organizações de auditoria.
decoder