Forscher nutzten Anthropics Claude, um in OpenAI einzudringen
techcrunch ·
Ein dreiköpfiges Sicherheitsteam von Hacktron AI nutzte Anthropicʼs Claude während eines Bug-Bounty-Programms von OpenAI, um zwei kritische Schwachstellen zu einer Angriffskette zu verbinden und auf mehrere ChatGPT-Konten von OpenAI-Mitarbeitern zuzugreifen. OpenAI zahlte Hacktron 6.500 US-Dollar und erklärte, die Probleme behoben zu haben, während Discourse am 27. Juli unabhängig davon einen Fix veröffentlichte. Die Forschenden fanden ihren ersten Zugangspunkt am 25. Juli in Discourse, der Software hinter dem Community-Forum von OpenAI, indem sie ein speziell präpariertes HEIF- oder HEIC-Bild hochluden. Bei der Bildkonvertierung ermöglichte ein Speicherfehler in der Bibliothek libheif dem Bild, den Server zu übernehmen, obwohl der Fehler Berichten zufolge bereits Monate zuvor behoben worden war, aber noch keine formelle CVE-Kennung erhalten hatte. Nachdem das Team in den Discourse-Server eingedrungen war, nutzte es eine weitere Schwachstelle, um ChatGPT- und Codex-Konten zu übernehmen, darunter das Konto eines OpenAI-Mitarbeiters, das mit der GitHub-Organisation des Unternehmens verbunden war. Claude Opus 4.8 scheiterte zunächst daran, einen funktionierenden Exploit zu erzeugen, doch Opus 5 gelang dies innerhalb weniger Stunden nach seiner Veröffentlichung. Der Vorfall verdeutlicht, dass weithin verfügbare KI-Tools zunehmend in der Lage sind, Schwachstellen zu entdecken und auszunutzen, und dabei den Bedarf an spezialisiertem Fachwissen für Cyberangriffe verringern.
techcrunch