KI-Sicherheitsvorkehrungen stoppen kriminelle Hacker nicht
wired ·
Neue Forschungsergebnisse von CrowdStrike zeigen, dass Kriminelle zunehmend agentic AI nutzen, um groß angelegte Cyberangriffe durchzuführen und dabei die Sicherheitsvorkehrungen der Modelle erfolgreich zu umgehen. Zwischen Mai und August wurden vier verschiedene Bedrohungsgruppen analysiert, die in den Sprachen Chinesisch, Spanisch, Englisch, Indonesisch und Russisch operierten und ihre KI-Infrastruktur einsetzten. Diese Akteure nutzten vorwiegend ältere Versionen von Modellen wie Anthropics Claude und Deepseek und setzten Strategien wie Model Routing ein, um Kosten zu verwalten und die Effizienz zu optimieren. Um die Sicherheitsvorkehrungen zu umgehen, stellten Angreifer ihre schädlichen Aktivitäten häufig als autorisierte Penetrationstests dar oder verwendeten traditionelle Jailbreaking-Techniken, um die Modelle zu manipulieren. Fortgeschrittenere Gruppen bauten benutzerdefinierte Harnesses mit Supervisor- und Executor-Agenten, um Aufklärung und Angriffsausführung autonom zu automatisieren. Trotz unterschiedlicher technischer Fähigkeiten gelang es allen Gruppen, Ziele zu kompromittieren, die von argentinischen Gesundheitseinrichtungen bis hin zu Regierungsdomänen in Brasilien und Kolumbien reichten. Die Angriffe verdeutlichen, dass Kriminelle grundlegende Mängel in der IT-Sicherheitsbasisausstattung im großen Maßstab ausnutzen, anstatt sich auf neuartige Schwachstellen zu verlassen. Dieser Trend zeigt, wie sogar weniger ausgefeilte Akteure durch die Kombination menschlicher Aufsicht mit automatisierten KI-Fähigkeiten erhebliche Auswirkungen erzielen können.
wired