Experten aus den USA und China fordern gemeinsame Regeln gegen die Kontrolle von Atomwaffen durch KI
decoder ·
Experten aus den USA und China schlagen gemeinsame Regeln vor, um zu verhindern, dass KI-Systeme autonome Entscheidungen über den Abschuss von Atomwaffen treffen. Melanie Sisson von der Brookings Institution und Tianjiao Jiang von der Fudan-Universität stellten die Vorschläge im Vorfeld eines für den 24. September geplanten Treffens zwischen Donald Trump und Xi Jinping vor. Ihre vorgeschlagenen roten Linien würden es der KI untersagen, Atomwaffen abzuschießen oder nukleare Kommando- und Kontrollsysteme anzugreifen, und zugleich verlangen, dass die alleinige Kontrolle über KI-gestützte Cyberangriffe auf strategische Infrastruktur beim Menschen bleibt. Die Experten wollen außerdem, dass sich beide Länder auf eine gemeinsame Definition menschlicher Kontrolle einigen, aufbauend auf einer Vereinbarung zwischen Biden und Xi vom November 2024. Jiang hat eine Hotline für KI-Zwischenfälle vorgeschlagen, um zu verhindern, dass automatisierte defensive Reaktionen mit Angriffen verwechselt werden. Ähnliche Warnungen sprach die NSCAI bereits 2021 aus, doch es gibt keine verbindlichen Mechanismen. Carla Freeman bezweifelte zudem, dass eine Hotline funktionieren würde, da China während der Spionageballonkrise 2023 einen Anruf der USA nicht beantwortet hatte.
decoder