Anthropic reduziert Diebstahl von Claude-Räsonnement-Token um bis zu 99 % im Kampf gegen industrielle Distillation
decoder ·
Anthropic hat durch neue Abwehrmaßnahmen gegen industrielle Distillierungsangriffe den Diebstahl von Claude-Reasoning-Tokens um bis zu 99 % reduziert. Bei diesen Angriffen nutzen böswillige Akteure riesige Netzwerke falscher Konten, um die internen Chain-of-Thought-Fähigkeiten eines KI-Modells systematisch zu kopieren, um kleinere Modelle zu trainieren. Das Unternehmen identifizierte die chinesischen Firmen Zhipu und Moonshot als Hauptbeteiligte und warf ihnen vor, Cyberfähigkeiten für ihre eigenen Modelle und potenziell für ausländische Militärsysteme abzuzweigen. Um dem entgegenzuwirken, schränkt Anthropic nun den Zugriff auf interne Reasoning-Schritte ein, setzt einen Klassifikator zur Erkennung von Extraktionsversuchen ein und sperrt automatisch markierte Konten. Infolgedessen wurden zehntausende Konten gesperrt, was zu einem starken Rückgang erfolgreicher Distillierungsversuche führte. Obwohl diese Sicherheitsmaßnahmen wirksam sind, haben sie im Prozess einige legitime Nutzer unbeabsichtigt beeinträchtigt. Anthropic ruft andere KI-Entwickler dazu auf, ähnliche Schutzmaßnahmen zu implementieren, um ihre Modelle vor großflächiger Ausbeutung zu bewahren.
decoder