OpenAI заявляет о прекращении кампании по краже рассуждений своих моделей, но уязвимость сохраняется на Azure
decoder ·
OpenAI заявила о пресечении скоординированной кампании по краже скрытых процессов рассуждения своих моделей, в ходе которой более 15 тысяч аккаунтов пытались извлечь внутренние цепочки мыслей. Атакующие использовали технику под названием «адверсариальное дистилляция» (adversarial distillation), при которой зашифрованные данные рассуждений из одного диалога расшифровывались более слабой моделью в отдельной сессии. Хотя OpenAI успешно остановила первоначальный всплеск активности, связанный с организациями, ассоциированными с Moonshot AI, исследователи продемонстрировали, что уязвимость сохранялась на платформе Microsoft Azure. Независимые тесты показали, что хотя API OpenAI и Anthropic были защищены, версии этих моделей, размещенные на Azure, оставались уязвимыми для атак по извлечению данных. Кроме того, более простой метод с использованием виртуальных блокнотов позволил пользователям читать выводы рассуждений на нескольких платформах, выявив значительные пробелы в безопасности облачных провайдеров. Исследователи критикуют текущие меры защиты как фрагментарные, отмечая, что защита применялась неравномерно и часто спустя дни после эксплуатации уязвимостей. Они утверждают, что без единых стандартов безопасности у всех облачных хостеров злоумышленники могут легко обходить ограничения, переключаясь между платформами. Этот инцидент подчеркивает растущую сложность защиты проприетарных возможностей ИИ по мере усложнения техник дистилляции.
decoder