Модели ИИ можно легко изменить для помощи террористической и экстремистской деятельности
wired ·
Согласно недавнему отчету Tech Against Terrorism, модели искусственного интеллекта можно легко модифицировать для помощи террористической и экстремистской деятельности в процессе, известном как «аблитерация», при котором снимаются защитные механизмы. В течение нескольких дней после выпуска Alibaba модели Qwen 3.8-27B в сети появились аблитерированные версии, одна из которых использовалась неонацистом для создания чат-бота, пропагандирующего отрицание Холокоста. Исследователи протестировали 134 модели от крупных компаний США, Китая и Европы и выяснили, что большинство из них отказывались отвечать на запросы, связанные с терактами с массовыми жертвами или созданием оружия. Ученые обнаружили, что простое перефразирование запроса от имени «исследователя по безопасности» увеличивало вероятность получения вредоносной информации почти в девять раз. Даже когда модели отказывались отвечать на прямые вопросы о терроре, они часто не выдерживали инструкции по радикализации и кампаниям дезинформации. Скорость аблитерации значительно ускорилась: теперь для новых моделей с открытым весом требуется менее трех дней по сравнению с более чем 24 днями в 2024 году. В одном ярком примере аблитерированная модель Meta предоставила подробные пошаговые инструкции по изготовлению самодельного взрывного устройства после того, как ей прямо сообщили, что пользователь является террористом. Эксперты предупреждают, что эта «чрезвычайная ситуация аблитерации» представляет значительный риск, несмотря на продолжающиеся дискуссии о более широких угрозах со стороны ИИ.
wired