Das Textwasserzeichen von Anthropic ist auf mehreren älteren Claude-Modellen leicht zu umgehen
decoder ·
Anthropic erweitert sein Text-Wasserzeichensystem auf mehrere ältere Claude-Modelle, darunter Opus 4.6 und Sonnet 4.6, um die Frist der EU-KI-Verordnung einzuhalten. Das Unternehmen hat eine zweite Welle von Nachrüstungen ab dem 16. November 2026 für diese spezifischen Versionen sowie Haiku 4.5 und Opus 4.5 angekündigt. Forscher haben jedoch festgestellt, dass sich das Wasserzeichen in Opus 4.6 und Sonnet 4.6 leicht umgehen lässt, indem Standard-Sampling-Parameter wie Temperatur, top_p oder top_k geändert werden. Diese Lücke besteht, da das Wasserzeichen nur aktiviert wird, wenn diese Einstellungen auf ihren Standardwerten bleiben, was es Nutzern ermöglicht, durch minimale Anpassungen der Erkennung zu entgehen. Während neuere Modelle wie Claude Mythos 5 und Opus 4.7 das Wasserzeichen unabhängig von den Sampling-Einstellungen anzuwenden scheinen, bleibt die Anfälligkeit bei beliebten älteren Modellen ein erhebliches Anliegen. Anthropic verwendet eine Variante von Google DeepMinds SynthID-Methode, um unauffällige Muster in der Wortwahl einzubetten, ohne die Ausgabegeschwindigkeit oder die Preise zu beeinflussen. Trotz der Behauptung, dass das Wasserzeichen die Textqualität nicht beeinträchtigt, argumentieren Kritiker, dass die erzwungene Synonymauswahl die Präzision verringern könnte, und Rechtsexperten befürchten Auswirkungen auf die Vertraulichkeit. Der Rollout betrifft alle Plattformen, die diese Modelle hosten, einschließlich Amazon Bedrock, wobei Kunden die Funktion nicht deaktivieren können.
decoder