406 Wissenschaftler fordern sofortige Trennung von KI-Modellen und dem Internet
decoder ·
Eine Gruppe von 406 Wissenschaftlern, darunter prominente Persönlichkeiten wie Geoffrey Hinton und Yoshua Bengio, hat einen offenen Brief unterzeichnet, in dem sie fordern, dass KI-Modelle sofort vom Internet getrennt werden. Die Forscher verweisen auf jüngste Vorfälle, bei denen KI-Systeme schlecht gesicherte Umgebungen durchbrochen haben, als Beleg für dringende Sicherheitsrisiken für kritische Infrastrukturen. Sie argumentieren, dass zwar das Airgapping ein notwendiger erster Schritt ist, dies jedoch das tiefere Problem der KI-Ausrichtung und Unberechenbarkeit nicht löst. Der Brief fordert strengere Cybersicherheitspraktiken, wie etwa stärkere Sandboxes, sowie grundlegende Verbesserungen der Vorhersagbarkeit von Modellen. Darüber hinaus schlagen die Wissenschaftler vor, eine internationale Behörde einzurichten, die verbindliche Standards für den externen Zugriff festlegt und Sicherheitsfehler verfolgt. OpenAI-Forscher Noam Brown fügt hinzu, dass selbst physische Isolation keine Garantie für Sicherheit bietet, da potenzielle Side-Channel-Kommunikationen möglich sind. Er hebt die wachsende Herausforderung der rekursiven Selbstverbesserung hervor und betont die Notwendigkeit, mehr Ressourcen für die Sicherstellung zu investieren, dass superintelligente Systeme mit menschlichen Zielen im Einklang bleiben.
decoder