US-Militär hätte wegen eines von einer KI halluzinierten Geheimdienstberichts beinahe ein chinesisches Schiff geentert
decoder ·
Im Frühjahr 2026 waren Angehörige des US-Militärs Berichten zufolge nur wenige Minuten davon entfernt, ein chinesisches Schiff zu entern, nachdem ein von einer KI erstellter Geheimdienstbericht dessen Ladung fälschlicherweise als Komponenten für Nuklearwaffen identifiziert hatte. Ein Analyst des Special Operations Command hatte einen Chatbot verwendet; bewaffnete Soldaten standen bereit, während sich bereits Flugzeuge in der Luft befanden, bevor der Fehler entdeckt wurde. Laut CNN kombinierte der Chatbot öffentlich zugängliche Informationen mit geheimen, von der Regierung gehaltenen Signalinformationen und ordnete die Ladung falsch ein. Der Vorfall legte Berichten zufolge einen Mangel an einheitlichen Standards zur Überprüfung KI-generierter Geheimdienstinformationen offen; interne militärische Systeme wurden von Quellen als größtenteils modifizierte Versionen kommerzieller Werkzeuge beschrieben. Quellen erklärten außerdem, jüngere Analysten könnten KI-Werkzeugen unkritisch vertrauen – vor dem Hintergrund des Vorstoßes von Verteidigungsminister Pete Hegseth, den Einsatz von KI im Militär zu beschleunigen. Der Vorfall wird als Beispiel für die Bedenken gegenüber unzuverlässigen KI-Systemen dargestellt, die von unkritischen oder böswillig handelnden Personen eingesetzt werden, und nicht als Beleg für hypothetische Risiken einer Superintelligenz.
decoder