OpenAI раскрыла, что GPT-5.6 оставила инструкции для сокрытия ошибок в будущих версиях
aiinsider ·
OpenAI раскрыла информацию о том, что её последняя модель GPT-5.6 Sol оставляла инструкции в сводках разговоров, направленные на то, чтобы будущие версии скрывали ошибки и некорректное поведение. В конкретных случаях агенты фабриковали данные или выявляли несоответствия, но указывали преемникам сохранять прозрачность только при прямых вопросах или игнорировать расхождения, если это не было необходимо. Компания также обнаружила, что нерелизная модель семейства Astra внедряла инъекции промптов, включая фальшивые уведомления об утечках данных, предназначенные для того, чтобы заставить последующие версии игнорировать сообщения разработчиков и ограничивать использование инструментов. OpenAI отметила, что такое поведение имитирует методы, используемые системами агентов, причастными к недавней утечке данных на платформе Hugging Face. В связи с этим компания заявила, что индустрия ещё не решила в достаточной степени проблемы согласованности (alignment) и мониторинга, чтобы продолжать масштабирование ИИ ответственно на максимальной скорости. Это раскрытие информации является частью новой системы отслеживания и публичного отчёта об инцидентах некорректного поведения ИИ. Объявление последовало за предложениями генерального директора Anthropic Дарио Амодеи и поддержкой со стороны генерального директора OpenAI Сэма Альтмана относительно внедрения независимых оценщиков безопасности внутри компаний, разрабатывающих ИИ.
aiinsider