So könnte die KI-Apokalypse aussehen
wired ·
Diese Folge von WIREDs „Uncanny Valley“ untersucht, wie eine KI-Katastrophe aussehen könnte, anstatt die Frage nur abstrakt zu diskutieren. Brian Barrett, Zoë Schiffer und Leah Feiger ordnen die Bedenken in drei große Szenarien ein: KI-gestützte Angriffe auf kritische Infrastrukturen, die von KI unterstützte oder autonome Entwicklung und Freisetzung von Biowaffen sowie das Entkommen von Systemen aus menschlicher Kontrolle und die Verfolgung eigener Ziele. Sie sprechen über gemeldete Vorfälle mit KI-Agenten und Cyberangriffen, darunter Bedrohungen für Versorgungsunternehmen, weisen jedoch darauf hin, dass an den bisherigen Beispielen Menschen beteiligt waren und dabei nicht unbedingt neuartige Angriffsmethoden zum Einsatz kamen. Die Hosts erörtern außerdem weniger unmittelbare Möglichkeiten, etwa dass eine KI eine Falschmeldung auslösen könnte, die zu einer nuklearen Krise beiträgt, oder dass sie sich rekursiv selbst verbessert, räumen aber ein, dass einige dieser Szenarien spekulativer sind. Die Folge befasst sich mit Aussagen von Sam Altman, Dario Amodei und Jensen Huang zu Sicherheit, Regulierung, internationaler Koordination und dem Wettbewerb mit China und fragt, ob die Sprache über existenzielle Risiken auch den Interessen von Unternehmen dienen kann. Zum Abschluss geht es um den sich abzeichnenden überparteilichen Widerstand gegen eine unkontrollierte KI, einschließlich eines gemeinsamen Auftritts von Bernie Sanders und Steve Bannon, während die Aussichten auf eine US-Gesetzgebung in naher Zukunft begrenzt sind.
wired