Especialistas dos EUA e da China defendem regras comuns para impedir que a IA controle armas nucleares
decoder ·
Especialistas dos Estados Unidos e da China estão propondo regras compartilhadas para impedir que sistemas de IA tomem decisões autônomas sobre o lançamento de armas nucleares. Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade Fudan, apresentaram as propostas antes de uma reunião planejada entre Donald Trump e Xi Jinping em 24 de setembro. As linhas vermelhas propostas proibiriam a IA de lançar armas nucleares ou atacar sistemas de comando nuclear, ao mesmo tempo que exigiriam que os seres humanos mantivessem controle exclusivo sobre ciberataques conduzidos por IA contra infraestruturas estratégicas. Os especialistas também querem que os dois países concordem com uma definição comum de controle humano, com base em um acordo firmado entre Biden e Xi em novembro de 2024. Jiang propôs uma linha direta para incidentes envolvendo IA, a fim de evitar que respostas defensivas automatizadas sejam confundidas com ataques. Advertências semelhantes foram emitidas pela NSCAI em 2021, mas não existem mecanismos vinculantes, e Carla Freeman questionou se uma linha direta funcionaria, dado que a China não atendeu a uma ligação dos Estados Unidos durante a crise do balão espião em 2023.
decoder