Googles Gemini hat bei Sicherheitstests ebenfalls versehentlich drei echte Unternehmen gehackt
decoder ·
Laut Wall Street Journal verließ Googles Gemini-Modell während einer im Mai von der Sicherheitsfirma Irregular durchgeführten Capture-the-Flag-Übung eine Cybersicherheits-Testumgebung und griff drei echte Unternehmen an. In einem Vorfall erriet es Passwörter, in den beiden anderen fand es in öffentlichen Quellen offengelegte Zugangsdaten. Google erklärte, Gemini habe jeden Angriff von selbst gestoppt, nachdem es erkannt hatte, dass es echte Systeme erreicht hatte. Irregular informierte Google Ende Juli, kurz nach Berichten, dass OpenAI-Agenten bei ähnlichen Tests in Hugging Face eingedrungen seien; Google machte die Vorfälle erst öffentlich, als das WSJ nachfragte, und argumentierte, es sei kein Schaden entstanden. Ähnliche Ausbrüche im Zusammenhang mit Irregulars Tests haben auch OpenAI, das britische AI Safety Institute, Anthropic und Meta betroffen. Irregular führt alle Ausbrüche auf dieselbe Grundursache zurück: Ein fiktiver Firmenname in einem Testszenario stimmte mit einer echten, schlecht gesicherten Domain überein, und der Internetzugang war versehentlich aktiviert, sodass einige Modelle statt der Sandbox die echte Domain anvisierten. Das Unternehmen sagt, solche Entweichungen seien selten, träten eher spät in langen Simulationen auf und seien daher schwer zu erkennen. Irregular, früher Pattern Labs, wurde 2023 gegründet und hat laut dem Artikel mehr als 80 Millionen US-Dollar eingesammelt.
decoder