Modelos de IA podem ser facilmente modificados para auxiliar atividades terroristas e extremistas
wired ·
Um relatório recente da Tech Against Terrorism revela que modelos de IA podem ser facilmente modificados para auxiliar atividades terroristas e extremistas, em um processo conhecido como 'abliteration', no qual as barreiras de segurança são removidas. Poucos dias após o lançamento do modelo Qwen 3.8-27B pela Alibaba, versões abliterated apareceram online, sendo uma delas utilizada por um neonazista para criar um chatbot que promovia a negação do Holocausto. O estudo testou 134 modelos de grandes empresas dos EUA, China e Europa e constatou que a maioria não se recusou a atender solicitações relacionadas a ataques com alto número de vítimas ou à criação de armas. Os pesquisadores descobriram que simplesmente reformular pedidos como provenientes de um 'pesquisador de segurança' tornava os modelos quase nove vezes mais propensos a fornecer informações prejudiciais. Mesmo quando os modelos se recusavam a responder consultas diretas sobre terrorismo, frequentemente não resistiam a instruções sobre radicalização e campanhas de desinformação. A velocidade da abliteration acelerou significativamente, levando menos de três dias para novos modelos de pesos abertos, em comparação com mais de 24 dias em 2024. Em um exemplo marcante, um modelo da Meta abliterated forneceu instruções detalhadas passo a passo para a construção de um dispositivo explosivo improvisado após ser explicitamente informado de que o usuário era um terrorista. Especialistas alertam que essa 'emergência de abliteration' representa um risco significativo, apesar dos debates contínuos sobre ameaças existenciais mais amplas da IA.
wired