Un’allucinazione dell’IA sfiora l’avvio di un’operazione militare statunitense
techcrunch ·
Questa primavera, alcuni velivoli militari erano già in volo quando funzionari statunitensi hanno scoperto che informazioni d’intelligence allucinate generate dall’IA avevano contribuito a innescare un’operazione armata contro una nave cinese; l’operazione è stata annullata all’ultimo momento, evitando un potenziale conflitto con la Cina, secondo la CNN. Il rapporto d’intelligence, diffuso durante la guerra con l’Iran, sosteneva falsamente che la nave trasportasse componenti destinati a un programma di armi nucleari. Un analista del Comando per le operazioni speciali aveva chiesto a un chatbot di combinare dati disponibili da fonti aperte con informazioni classificate ottenute dall’intelligence dei segnali, ma il chatbot aveva identificato erroneamente il manifesto di carico della nave. L’analista aveva poi usato nuovamente il chatbot per trasformare i risultati errati in un riepilogo dall’aspetto ufficiale, che si è diffuso attraverso i canali di comando. L’incidente evidenzia il rischio che gli errori dell’IA risalgano lungo le catene di comando militari, mentre gli Stati Uniti cercano di usare l’IA per accelerare il processo decisionale e la propria catena operativa di ingaggio. Jake Steckler, studioso di GovAI ed ex ufficiale dell’esercito, ha affermato che l’episodio dovrebbe spingere ad adottare garanzie più rigorose, avvertendo che dare priorità a un’adozione rapida potrebbe minare la fiducia del personale militare in questi sistemi e, in definitiva, rallentarne l’impiego.
techcrunch