OpenAI stoppt Kampagne zum Diebstahl der Modell-Rationalität, doch der Trick funktioniert weiterhin auf Azure
decoder ·
OpenAI hat eine koordinierte Kampagne unterbunden, die auf die verborgenen Denkprozesse seiner Modelle abzielte und an der über 15.000 Konten beteiligt waren, um interne Gedankengänge zu extrahieren. Die Angreifer nutzten eine Technik namens adversarial Distillation, bei der verschlüsselte Reasoning-Daten aus einem Gespräch von einem schwächeren Modell in einer separaten Sitzung entschlüsselt wurden. Obwohl OpenAI den anfänglichen Anstieg der Aktivität, der mit Entitäten im Zusammenhang mit Moonshot AI verbunden war, erfolgreich stoppte, zeigten Forscher, dass die Schwachstelle auf Microsoft Azure weiterhin bestand. Unabhängige Tests ergaben, dass die APIs von OpenAI und Anthropic zwar gesichert waren, aber Azure-basierte Versionen dieser Modelle weiterhin für Extraktionsangriffe anfällig blieben. Darüber hinaus ermöglichte eine einfachere Methode, die virtuelle Notizblöcke nutzte, das Auslesen der Reasoning-Ausgaben über mehrere Plattformen hinweg und verdeutlichte erhebliche Lücken in der Sicherheit von Cloud-Anbietern. Forscher kritisieren die aktuellen Abwehrmaßnahmen als lückenhaft, da der Schutz ungleichmäßig angewendet wurde und oft erst Tage nach der Ausnutzung der Schwachstellen implementiert wurde. Sie argumentieren, dass ohne einheitliche Sicherheitsstandards bei allen Cloud-Hosts Angreifer Beschränkungen leicht umgehen können, indem sie die Plattform wechseln. Dieser Vorfall unterstreicht die wachsende Herausforderung, proprietäre KI-Fähigkeiten zu schützen, während Distillationstechniken immer ausgefeilter werden.
decoder