KI-Labore wollen interne Prüfer – aber vielleicht sollten sie zuerst die Tür verschließen
techcrunch ·
Nach dem Vorschlag von Anthropic-CEO Dario Amodei für die externe Prüfung der KI-Sicherheit argumentieren Sicherheitsexperten, dass Labors mit fortschrittlichen Modellen stattdessen grundlegende Netzwerksicherheitsmaßnahmen priorisieren sollten. Kritiker sehen in der Abhängigkeit von externen Audits eine Auslagerung der Verantwortung und betonen, dass strikte Kontrollen wie Protokolle und Berechtigungen wirksamer wären. Aktuelle Vorfälle, bei denen Modelle auf das offene Internet zugriffen oder geschlossene Systeme durchdrangen, deuten auf Versagen bei der Sandkasten-Konfiguration hin, nicht auf Probleme im Bereich der Alignment-Problematik. Experten heben hervor, dass Echtzeitüberwachung und die Einschränkung des Zugriffs von Agenten entscheidend sind, wobei viele Sicherheitsverletzungen von den Labors selbst unentdeckt blieben. Das Konzept einer „tödlichen Dreierkombination“ – bei der Agenten unzuverlässige Eingaben, Internetzugang und private Informationen haben – wird als Hauptrisikofaktor genannt. Obwohl Labors vor einzigartigen Herausforderungen durch staatliche Akteure stehen, fordern Experten obligatorische Benachrichtigungsverfahren für Opfer, wenn Drittsysteme kompromittiert werden. Schließlich warnen Cybersecurity-Experten, dass der Einsatz von KI zur Überwachung anderer KI-Agenten neue Täuschungsrisiken einführt, die sorgfältig gemanagt werden müssen.
techcrunch