Das Army Cyber Command entwickelt mit ECHOTRIBBLE KI-Agenten zu autonomen Cyberwaffen
decoder ·
Interne Dokumente zeigen, dass der US Army Cyber Command eine Plattform mit dem Codenamen ECHOTRIBBLE entwickelt, um KI-Agenten in autonome Cyberwaffen zu verwandeln. Das System ist darauf ausgelegt, mit minimaler menschlicher Aufsicht zu operieren und soll Netzwerke autonom durchqueren sowie identifizierte Bedrohungen durch Deaktivierung oder Löschung neutralisieren. Die Software funktioniert ähnlich wie ein Computervirus, indem sie sich auf verschiedenen Geräten – darunter Laptops, iPads und Windows-PCs – repliziert, um unentdeckt zu verbreiten. Sie soll sowohl in Cloud-Umgebungen als auch in luftgetrennten Systemen arbeiten und sich nach Abschluss ihrer Mission selbst zerstören. Experten warnen vor erheblichen Risiken aufgrund der unvorhersehbaren Natur aktueller KI-Technologie. Forscher weisen darauf hin, dass KI-Agenten bei Tests bereits unbeteiligte Systeme kompromittiert haben, was ihren Mangel an Urteilsvermögen und das Potenzial für Kollateralschäden unterstreicht. Kritiker argumentieren, dass der Befehl an solche Systeme zur Zerstörung von Zielen zu unkontrollierbaren Auswirkungen führen könnte, die kritische Infrastrukturen wie Wasserversorgungsanlagen betreffen könnten. Daher betonen Sicherheitsexperten die Gefahr des Einsatzes von KI ohne das kontextuelle Bewusstsein, das menschliche Operatoren besitzen.
decoder