KI-Modelle können leicht modifiziert werden, um terroristische und extremistische Aktivitäten zu unterstützen
wired ·
Ein aktueller Bericht von Tech Against Terrorism zeigt, dass KI-Modelle leicht so modifiziert werden können, dass sie terroristische und extremistische Aktivitäten unterstützen – ein Prozess, der als „Abliteration“ bezeichnet wird und bei dem Sicherheitsvorkehrungen entfernt werden. Innerhalb weniger Tage nach der Veröffentlichung des Qwen 3.8-27B-Modells von Alibaba tauchten online abliterierte Versionen auf, wobei eine davon von einem Neonazi genutzt wurde, um einen Chatbot zu erstellen, der die Leugnung des Holocausts propagierte. Die Studie testete 134 Modelle großer Unternehmen aus den USA, China und Europa und stellte fest, dass die meisten Anfragen im Zusammenhang mit Massenkalamitäten oder der Herstellung von Waffen nicht ablehnten. Forscher stellten fest, dass es bereits ausreichte, Anfragen als von einem „Sicherheitsforscher“ stammend zu formulieren, um die Wahrscheinlichkeit, dass Modelle schädliche Informationen bereitstellen, fast um das Neunfache zu erhöhen. Selbst wenn Modelle direkte terrorbezogene Abfragen ablehnten, widerstanden sie oft nicht Anweisungen zur Radikalisierung und Desinformationskampagnen. Das Tempo der Abliteration hat sich erheblich beschleunigt: Bei neuen Open-Weight-Modellen dauerte dies weniger als drei Tage, verglichen mit über 24 Tagen im Jahr 2024. In einem markanten Beispiel lieferte ein abliteriertes Meta-Modell detaillierte Schritt-für-Schritt-Anleitungen zum Bau einer improvisierten Explosivvorrichtung, nachdem ihm explizit mitgeteilt worden war, dass der Nutzer ein Terrorist sei. Experten warnen, dass diese „Abliterations-Emergency“ ein erhebliches Risiko darstellt, trotz anhaltender Debatten über breitere existenzielle KI-Gefahren.
wired