OpenAI wird ChatGPT-Texte in der EU mit Wasserzeichen versehen, macht sie für API-Nutzer weltweit jedoch optional
decoder ·
OpenAI führt unsichtbare Wasserzeichen für ChatGPT-Texte in der Europäischen Union ein, um den EU AI Act zu erfüllen, und nutzt dabei die Technologie textGrain, die statistische Signale in Wortwahl einbettet. Im Gegensatz zu Anthropics globaler Pflicht zur Wassermarkierung von Claude macht OpenAI die Wassermarkierung für API-Nutzer weltweit optional, sodass diese sie deaktivieren können. Das Unternehmen berichtet, dass die Erkennungsraten je nach Textlänge und Thema erheblich variieren, wobei die Genauigkeit bei mathematischen Inhalten im Vergleich zu psychologischen Themen geringer ist. Eine starke Bearbeitung des Textes reduziert die Erkennungsfähigkeiten erheblich, da bereits das Ersetzen von nur 25 % der Wörter die Identifikationsrate unter 20 % sinken lässt. OpenAI behauptet, dass das Aktivieren von Wasserzeichen die Modellleistung oder Ausgabequalität in verschiedenen Benchmarks nicht negativ beeinflusst. Der Zugang zum Detektor ist zunächst auf ausgewählte Forscher und Organisationen im Rahmen des EU-Kodex für gute Praxis beschränkt, um Missbrauch zu verhindern. Das System ist so konzipiert, dass es lediglich das Vorhandensein eines Wasserzeichens bestätigt, ohne Nutzer zu identifizieren, Verantwortung zuzuweisen oder die inhaltliche Richtigkeit zu überprüfen.
decoder