Anthropics Watermark-Rollout lässt eine Lücke bei zwei älteren Claude-Modellen
decoder ·
Anthropic erweitert sein Text-Wasserzeichensystem auf vier zusätzliche Claude-Modelle, darunter Mythos 5 und Opus 4.7, und wendet es auch auf ältere Versionen von Opus und Sonnet an. Das Unternehmen beschreibt das Wasserzeichen als ein unmerkliches Muster in der Wortwahl, das Bedeutung, Qualität oder Preis nicht verändert und keine Nutzerdaten enthält. Dennoch besteht eine erhebliche Lücke bei Claude Opus 4.6 und Claude Sonnet 4.6, wo Nutzer das Wasserzeichen umgehen können, indem sie Standard-Sampling-Parameter wie Temperatur oder top_p ändern. Diese Schwachstelle ist bemerkenswert, da Opus 4.6 weiterhin Anthropics führendes Schreibmodell ist und sogar neuere Releases übertrifft. Im Gegensatz dazu scheint das Wasserzeichen bei Mythos 5 und Opus 4.7 unabhängig von diesen Einstellungen zu gelten, was jedoch in der ursprünglichen Ankündigung nicht explizit dargelegt wurde. Die Einführung zielt darauf ab, die Dezember-Frist des EU-KI-Gesetzes einzuhalten, wodurch alle Plattformen, die diese Modelle hosten, betroffen sind, ohne dass eine Opt-out-Möglichkeit besteht. Während Anthropic eine Methode verwendet, die Google DeepMinds SynthID ähnelt, bestreiten Experten, ob solche technischen Anpassungen die semantische Präzision und Lesbarkeit tatsächlich bewahren.
decoder