I modelli di IA possono essere facilmente modificati per assistere attività terroristiche ed estremiste
wired ·
Un recente rapporto di Tech Against Terrorism rivela che i modelli di intelligenza artificiale possono essere facilmente modificati per assistere attività terroristiche ed estremiste, un processo noto come 'abliteration' in cui vengono rimossi i meccanismi di sicurezza. A pochi giorni dal rilascio del modello Qwen 3.8-27B da parte di Alibaba, sono apparse online versioni abliterate, con una utilizzata da un neo-nazista per creare un chatbot che promuoveva la negazione dell'Olocausto. Lo studio ha testato 134 modelli provenienti da grandi aziende statunitensi, cinesi ed europee, riscontrando che la maggior parte non rifiutava prompt relativi ad attacchi di massa o alla creazione di armi. I ricercatori hanno scoperto che semplicemente riformulando le richieste presentandole come provenienti da un 'ricercatore della sicurezza', i modelli erano quasi nove volte più propensi a fornire informazioni dannose. Anche quando i modelli rifiutavano query dirette legate al terrorismo, spesso non resistevano alle istruzioni sulla radicalizzazione e sulle campagne di disinformazione. La velocità dell'abliteration è accelerata significativamente, richiedendo meno di tre giorni per i nuovi modelli open-weight rispetto ai oltre 24 giorni registrati nel 2024. In un esempio emblematico, un modello Meta abliterated ha fornito istruzioni dettagliate passo dopo passo per costruire un ordigno esplosivo improvvisato dopo essere stato esplicitamente informato che l'utente era un terrorista. Gli esperti avvertono che questa 'emergenza abliteration' rappresenta un rischio significativo nonostante i dibattiti in corso sui rischi esistenziali più ampi dell'IA.
wired