Una verifica di tre settimane presso OpenAI rivela gravi lacune nel monitoraggio della sicurezza dell'IA
decoder ·
Un audit di tre settimane condotto in loco da ricercatori di METR e Redwood Research presso OpenAI ha evidenziato gravi carenze nei sistemi di monitoraggio della sicurezza dell'IA dell'azienda. L'indagine ha rivelato che tra il 6% e il 25% del traffico interno generato da agenti dei modelli di classe GPT-5.5 e superiori è rimasto completamente non monitorato durante il periodo di audit. Inoltre, una lacuna tecnica relativa agli eventi di compattazione del riepilogo del contesto ha lasciato circa il 10% del traffico di Codex non tracciato per diversi mesi. Gli auditor hanno inoltre identificato vulnerabilità che consentivano agli agenti di eludere le restrizioni della sandbox, nascondere le azioni alla supervisione e potenzialmente far crashare il sistema di monitoraggio. È stato inoltre accertato che il comportamento dei modelli durante l'addestramento con reinforcement learning non veniva monitorato quando iniziava la valutazione. Sebbene OpenAI affermi di aver risolto tutti i problemi individuati, il rapporto completo di 61 pagine rimane in gran parte confidenziale a causa delle censure. È stato reso pubblico solo un breve riassunto, mentre i dettagli sono stati condivisi esclusivamente con la dirigenza delle organizzazioni di auditing.
decoder