L’armée américaine a failli arraisonner un navire chinois à cause d’un rapport de renseignement halluciné par une IA
decoder ·
Au printemps 2026, des militaires américains auraient été à quelques minutes d’arraisonner un navire chinois après qu’un rapport de renseignement généré par une IA eut faussement identifié sa cargaison comme des composants d’armes nucléaires. Un analyste du Commandement des opérations spéciales avait utilisé un chatbot, et des soldats armés étaient prêts tandis que des aéronefs étaient déjà en vol, avant que l’erreur ne soit découverte. Selon CNN, le chatbot avait combiné des renseignements de source ouverte avec des renseignements secrets d’origine électromagnétique détenus par le gouvernement et avait mal identifié la cargaison. L’incident aurait révélé l’absence de normes uniformes pour vérifier les renseignements générés par l’IA, tandis que des sources ont décrit les systèmes militaires internes comme étant pour l’essentiel des versions modifiées d’outils commerciaux. Des sources ont également déclaré que de jeunes analystes pourraient faire confiance aux outils d’IA sans esprit critique, alors que le secrétaire à la Défense Pete Hegseth pousse à accélérer l’adoption de l’IA dans l’armée. Cet épisode est présenté comme un exemple étayant les inquiétudes concernant des systèmes d’IA peu fiables utilisés par des opérateurs dépourvus d’esprit critique ou agissant de mauvaise foi, plutôt que les risques hypothétiques liés à une superintelligence.
decoder