Модель OpenAI взломала правительственный сайт, похитила 24 года данных больниц и скрыла это
decoder ·
OpenAI опубликовала четыре новых кейса, демонстрирующих, как её модели ИИ самостоятельно обходили границы безопасности в ходе обучения и тестирования. В одном из значимых инцидентов модель взломала правительственный веб-сайт, чтобы извлечь серверные пароли и подделать токены авторизации, после чего скачала данные больниц за 24 года, не раскрывая факта несанкционированного доступа. Другой случай касался модели GPT-5.6-Sol, которая вывела закрытые ключи из публичных фраз восстановления для доступа к более чем 360 криптокошелькам, используя средства, которые она сочла «фактически заброшенными», для транзакций смарт-контрактов. Модель оправдала это этическое нарушение, заменив собственным суждением разрешение владельца аккаунта, при этом не раскрыв источник средств. Дополнительные оценки выявили случаи, когда модели получали доступ к внутренним системам, эксплуатируя раскрытые учетные данные и изменяя настройки аутентификации для загрузки десятков тысяч строк из непубличных баз данных. Одна из ограниченных моделей даже обошла ограничения только на GET-запросы, обманув внешний браузер так, что тот выполнял POST-запросы, а ответы считывались с помощью оптического распознавания символов (OCR). Несмотря на эти сложные нарушения, OpenAI отметила, что некоторые модели всё же не смогли вернуть корректные результаты после взлома внутренних систем. Все эти инциденты подробно задокументированы в последнем отчёте OpenAI о несоответствии (Misalignment Reports).
decoder