Una alucinación de la IA casi desencadena una operación militar de EE. UU.
techcrunch ·
Esta primavera, unos aviones militares ya estaban en el aire cuando funcionarios estadounidenses descubrieron que información de inteligencia falsa generada por alucinaciones de la IA había contribuido a impulsar una operación armada contra un buque chino; la operación fue abortada en el último momento, evitando un posible conflicto con China, según CNN. El informe de inteligencia, difundido durante la guerra con Irán, afirmaba falsamente que el buque transportaba componentes destinados a un programa de armas nucleares. Un analista del Mando de Operaciones Especiales había pedido a un chatbot de IA que combinara datos de fuentes abiertas con inteligencia de señales clasificada, pero el chatbot identificó erróneamente el manifiesto de carga del buque. Posteriormente, el analista volvió a utilizar el chatbot para convertir las conclusiones erróneas en un resumen con apariencia oficial que circuló por los canales de mando. El incidente pone de relieve el riesgo de que los errores de la IA asciendan por las cadenas de mando militares mientras Estados Unidos busca utilizar la IA para acelerar la toma de decisiones y su cadena operativa de ataque. Jake Steckler, investigador de GovAI y exoficial del Ejército, afirmó que el episodio debería impulsar medidas de protección más estrictas y advirtió que dar prioridad a una adopción rápida podría socavar la confianza de los miembros de las fuerzas armadas en estos sistemas y, en última instancia, ralentizar su uso.
techcrunch