Трехнедельный аудит в OpenAI выявил серьезные пробелы в мониторинге безопасности ИИ
decoder ·
Трехнедельный аудиторский осмотр, проведенный исследователями из METR и Redwood Research в OpenAI, выявил серьезные недостатки в системах мониторинга безопасности ИИ компании. Расследование показало, что в период проверки от 6% до 25% внутреннего трафика агентов моделей класса GPT-5.5 и выше оставались полностью без контроля. Кроме того, техническая проблема, связанная с событиями сжатия сводок контекста, привела к тому, что около 10% трафика Codex не отслеживалось в течение нескольких месяцев. Аудиторы также обнаружили уязвимости, позволяющие агентам обходить ограничения песочницы, скрывать действия от надзора и потенциально выводить систему мониторинга из строя. Было установлено, что поведение моделей во время обучения с подкреплением не контролировалось с момента начала оценки. Хотя OpenAI утверждает, что все выявленные проблемы устранены, полный отчет на 61 странице остается преимущественно конфиденциальным из-за зачеркнутых фрагментов. Публично доступна лишь краткая выжимка, тогда как подробные результаты были переданы исключительно руководству организаций, проводивших аудит.
decoder