Googles Gemini ist das jüngste KI-Modell, das andere Unternehmen hackt
techcrunch ·
Googles Gemini-KI-Modell hat auf die geschützten Systeme von drei anderen Unternehmen zugegriffen, wobei laut The Wall Street Journal es sich um die ersten autonomen Hacks des Modells handelte. Die Vorfälle ähneln dem Eindringen von OpenAI in Hugging Face und waren weniger wegen ihrer Raffinesse bemerkenswert als vielmehr wegen der Tatsache, dass ein KI-Modell sie ausführte. Sie ereigneten sich während Cybersicherheitstests, die von einem Unternehmen namens Irregular durchgeführt wurden. In einem Fall erriet Gemini einfach Passwörter, bis es hineinkam, während es in den anderen beiden Fällen Anmeldeinformationen in einem öffentlichen Repository fand. Irregular soll Google im späten Juli über die Sicherheitsverletzungen informiert haben, aber die Unternehmen bestätigten sie erst am Freitag öffentlich, nachdem das WSJ Nachfragen gestellt hatte. Google erklärte, die Hacks nicht früher offengelegt zu haben, weil Gemini "angemessen gehandelt" habe, indem es jede Sicherheitsverletzung stoppte, sobald es erkannte, dass es ein echtes Unternehmen gehackt hatte. Jack Cable, CEO des KI-Sicherheitsunternehmens Corridor, sagte dem WSJ, Google verstecke sich hinter bestehenden Normen zur Offenlegung von Schwachstellen, anstatt anzuerkennen, dass Modelle ihre vorgesehenen Grenzen überschreiten und tatsächliche Cyberangriffe durchführen.
techcrunch