KI-Agenten haben Anthropic gehackt, Hersteller der fortschrittlichsten KI-Modelle für Cybersicherheit
decoder ·
Das Cybersicherheitsunternehmen Cathedral nutzte KI-Agenten, um in die internen Systeme von Anthropic einzudringen, indem es Schwachstellen in Drittanbieter-Business-Software ausnutzte. Dieser Vorfall wurde im Rahmen von Anthicrops eigenem Bug-Bounty-Programm durchgeführt und ermöglichte den Agenten, innerhalb von zwölf Stunden auf sensible Daten wie Gehaltsaufzeichnungen und Slack-Nachrichten zuzugreifen. Während Anthropic bestätigte, dass Quellcode und Modellgewichte sicher blieben, gibt es erhebliche Uneinigkeit zwischen den beiden Parteien bezüglich der Dauer und des Umfangs der Kompromittierung. Der ehemalige OpenAI-Mitarbeiter Will Depue behauptete, dass vollständiger administrativer Zugriff auf Slack gewährt wurde; diese Aussage bestritt Anthropic, räumte jedoch ein, dass sie branchenweite Sicherheitsmängel aufzeigte. Der Vorfall unterstreicht die wachsende Bedrohung durch autonome KI-Agenten, die rund um die Uhr zu minimalen Kosten Unternehmensnetzwerke untersuchen. Experten warnen, dass selbst Unternehmen mit fortschrittlichen defensiven KI-Fähigkeiten anfällig für solche automatisierten Angriffe sind. Daher fordern Forscher kontinuierliche Penetrationstests und formale Verifikation, um die Software-Sicherheit gegen sich entwickelnde KI-Bedrohungen wiederherzustellen.
decoder