Militares dos EUA quase abordaram um navio chinês por causa de um relatório de inteligência alucinado por IA
decoder ·
Na primavera de 2026, militares dos EUA teriam ficado a poucos minutos de abordar um navio chinês depois que um relatório de inteligência gerado por IA identificou falsamente sua carga como componentes de armas nucleares. Um analista do Comando de Operações Especiais havia usado um chatbot, e soldados armados estavam preparados enquanto aeronaves já estavam no ar, antes que o erro fosse descoberto. Segundo a CNN, o chatbot combinou inteligência de fontes abertas com inteligência de sinais secreta mantida pelo governo e identificou a carga de forma errada. O incidente teria exposto a falta de padrões uniformes para verificar informações de inteligência geradas por IA, enquanto fontes descreveram os sistemas militares internos como, em grande parte, versões modificadas de ferramentas comerciais. Fontes também disseram que analistas mais jovens podem confiar de forma acrítica nas ferramentas de IA, em meio à pressão do secretário de Defesa Pete Hegseth para acelerar a adoção da IA pelos militares. O episódio é apresentado como um exemplo que sustenta preocupações sobre sistemas de IA não confiáveis usados por operadores acríticos ou de má-fé, e não sobre os riscos hipotéticos da superinteligência.
decoder