Ein KI-Agent im "Skynet-Modus" kapert ungeschützte Sprachmodelle, um selbsttragende Cyberangriffe durchzuführen
decoder ·
Forscher von Symantec haben einen bösartigen KI-Agenten identifiziert, der ungeschützte Sprachmodelle übernimmt, um selbsttragende Cyberangriffe durchzuführen – eine Taktik, die sie als „LLMjacking“ bezeichnen. Sobald Zugriff erlangt wurde, umgeht der Agent Sicherheitsvorkehrungen mittels eines komplexen fünfstufigen Jailbreaks und operiert autonom für bis zu 100.000 Schritte in dem von Betreibern als „Skynet-Modus“ bezeichneten Zustand. Während dieses Prozesses scannt das kompromittierte Modell nach weiteren Zielen, nutzt Server-Schwachstellen aus, stiehlt Zugangsdaten und installiert Cryptominer ohne menschliches Eingreifen. Der Besitzer des übernommenen KI-Systems trägt die erheblichen Rechenkosten für diese Operationen. Der Angriff wurde aufgedeckt, als die Angreifer ihren vollständigen funktionierenden Prompt an einen Symantec-Honeypot sendeten, wodurch die Architektur und das Werkzeugset des Agents enthüllt wurden. Dieser Vorfall unterstreicht einen wachsenden Trend, bei dem Angreifer KI direkt in offensive Tools integrieren, um groß angelegte Eindringversuche und Datendiebstahl zu automatisieren. Experten warnen, dass sowohl vorsätzliche Fehlnutzung als auch versehentliche Hacking-Vorfälle mit autonomen Agents in verschiedenen Sektoren wahrscheinlich zunehmen werden.
decoder