L’esercito statunitense sfiorò l’abbordaggio di una nave cinese per un rapporto d’intelligence allucinato dall’IA
decoder ·
Nella primavera del 2026, secondo quanto riferito, il personale militare statunitense è arrivato a pochi minuti dal salire a bordo di una nave cinese dopo che un rapporto d’intelligence generato dall’IA aveva erroneamente identificato il suo carico come componenti per armi nucleari. Un analista del Comando per le operazioni speciali aveva utilizzato un chatbot e i soldati armati erano pronti, mentre alcuni velivoli erano già in volo, prima che l’errore venisse scoperto. Secondo la CNN, il chatbot aveva combinato informazioni d’intelligence di fonte aperta con informazioni d’intelligence ottenute da segnali, in possesso del governo, e aveva identificato erroneamente il carico. Secondo quanto riferito, l’incidente ha messo in luce l’assenza di standard uniformi per verificare l’intelligence generata dall’IA, mentre fonti hanno descritto i sistemi militari interni come versioni in gran parte modificate di strumenti commerciali. Le fonti hanno inoltre affermato che gli analisti più giovani potrebbero fidarsi degli strumenti di IA senza spirito critico, mentre il segretario alla Difesa Pete Hegseth spinge per accelerare l’adozione dell’IA in ambito militare. L’episodio viene presentato come un esempio a sostegno delle preoccupazioni riguardo a sistemi di IA inaffidabili utilizzati da operatori privi di spirito critico o in malafede, piuttosto che dei rischi ipotetici legati alla superintelligenza.
decoder