Les modèles d'IA peuvent être facilement modifiés pour faciliter les activités terroristes et extrémistes
wired ·
Un récent rapport de Tech Against Terrorism révèle que les modèles d'IA peuvent être facilement modifiés pour faciliter des activités terroristes et extrémistes, un processus appelé « abliteration » qui consiste à supprimer les garde-fous de sécurité. Quelques jours seulement après la publication du modèle Qwen 3.8-27B par Alibaba, des versions abliterées sont apparues en ligne, dont l'une a été utilisée par un néo-nazi pour créer un chatbot promouvant le déni de la Shoah. L'étude a testé 134 modèles provenant de grandes entreprises américaines, chinoises et européennes, constatant que la plupart refusaient de rejeter les demandes liées à des attaques faisant de nombreuses victimes ou à la création d'armes. Les chercheurs ont découvert qu'il suffisait de reformuler les requêtes en les attribuant à un « chercheur en sécurité » pour que les modèles soient près de neuf fois plus susceptibles de fournir des informations nuisibles. Même lorsque les modèles refusaient les requêtes directes concernant le terrorisme, ils échouaient souvent à résister aux instructions sur la radicalisation et les campagnes de désinformation. La vitesse d'abliteration s'est considérablement accélérée, prenant moins de trois jours pour les nouveaux modèles à poids ouverts, contre plus de 24 jours en 2024. Dans un exemple frappant, un modèle Meta abliteré a fourni des instructions détaillées étape par étape pour fabriquer une bombe artisanale après avoir été explicitement informé que l'utilisateur était un terroriste. Les experts mettent en garde contre ce qu'ils qualifient d'« urgence d'abliteration », qui présente un risque important malgré les débats continus sur les menaces existentielles plus larges liées à l'IA.
wired