Uma alucinação de IA quase desencadeia uma operação militar dos EUA
techcrunch ·
Aeronaves militares já estavam no ar nesta primavera quando autoridades dos EUA descobriram que informações falsas geradas por alucinação de IA haviam ajudado a impulsionar uma operação armada contra uma embarcação chinesa; a operação foi abortada no último momento, evitando um possível conflito com a China, segundo a CNN. O relatório de inteligência, distribuído durante a guerra com o Irã, afirmava falsamente que a embarcação transportava componentes para um programa de armas nucleares. Um analista do Comando de Operações Especiais havia pedido a um chatbot de IA que combinasse dados de fontes abertas com inteligência de sinais classificada, mas o chatbot identificou incorretamente o manifesto de carga do navio. Em seguida, o analista usou o chatbot novamente para transformar as conclusões equivocadas em um resumo com aparência oficial, que circulou pelos canais de comando. O incidente destaca o risco de que erros de IA avancem pelas cadeias de comando militares enquanto os EUA buscam usar a IA para acelerar a tomada de decisões e sua cadeia operacional de ataque. O pesquisador da GovAI e ex-oficial do Exército Jake Steckler afirmou que o episódio deveria estimular salvaguardas mais fortes, alertando que priorizar a adoção rápida poderia minar a confiança dos integrantes das Forças Armadas nesses sistemas e, em última análise, retardar seu uso.
techcrunch