Expertos de Estados Unidos y China reclaman normas comunes para impedir que la IA controle las armas nucleares
decoder ·
Expertos de Estados Unidos y China proponen normas compartidas para impedir que los sistemas de IA tomen decisiones autónomas sobre el lanzamiento de armas nucleares. Melanie Sisson, de la Brookings Institution, y Tianjiao Jiang, de la Universidad de Fudan, presentaron las propuestas antes de una reunión prevista para el 24 de septiembre entre Donald Trump y Xi Jinping. Sus líneas rojas propuestas prohibirían que la IA lance armas nucleares o ataque sistemas de mando nuclear, y exigirían que los seres humanos mantengan el control exclusivo sobre los ciberataques impulsados por IA contra infraestructuras estratégicas. Los expertos también quieren que ambos países acuerden una definición común del control humano, basándose en un acuerdo entre Biden y Xi de noviembre de 2024. Jiang ha propuesto una línea directa para incidentes relacionados con la IA con el fin de evitar que respuestas defensivas automatizadas se confundan con ataques. La NSCAI emitió advertencias similares en 2021, pero no existen mecanismos vinculantes, y Carla Freeman ha cuestionado si una línea directa funcionaría, dado que China no respondió a una llamada de Estados Unidos durante la crisis del globo espía de 2023.
decoder