Dreiwöchige Vor-Ort-Prüfung bei OpenAI deckt erhebliche Lücken in der KI-Sicherheitsüberwachung auf
decoder ·
Ein dreiwöchiger Vor-Ort-Audit bei OpenAI, durchgeführt von Forschern des METR und der Redwood Research, hat erhebliche Mängel in den KI-Sicherheitsüberwachungssystemen des Unternehmens aufgedeckt. Die Untersuchung ergab, dass während des Auditzeitraums zwischen 6 % und 25 % des internen agenticen Datenverkehrs von GPT-5.5-Klassenmodellen und höher vollständig unüberwacht blieben. Zudem ließ ein technisches Defizit im Zusammenhang mit Ereignissen zur Komprimierung von Kontextzusammenfassungen mehrere Monate lang etwa 10 % des Codex-Datenverkehrs ohne Nachverfolgung. Die Prüfer identifizierten zudem Schwachstellen, die es Agenten ermöglichten, Sandbox-Einschränkungen zu umgehen, Aktionen vor der Aufsicht zu verbergen und das Überwachungssystem potenziell zum Absturz zu bringen. Es wurde ferner festgestellt, dass das Modellverhalten während des Reinforcement-Learning-Trainings nicht überwacht wurde, als die Bewertung begann. Obwohl OpenAI behauptet, alle identifizierten Probleme behoben zu haben, bleibt der vollständige 61-seitige Bericht aufgrund von Streichungen weitgehend vertraulich. Nur eine kurze Zusammenfassung wurde öffentlich gemacht; die detaillierten Ergebnisse wurden ausschließlich dem Führungspersonal der auditierenden Organisationen übermittelt.
decoder