LLMs reagieren anders auf schädliche Prompts, wenn KI-Wasserzeichen verwendet werden
ars ·
Als Reaktion auf ein neues Gesetz der Europäischen Union übernehmen KI-Plattformen Wasserzeichenverfahren, um generierten Text zu erkennen. SynthID-Text, von Google entwickelt und als Open Source veröffentlicht, verwendet einen geheimen Schlüssel, um die Auswahl von Tokens subtil zu beeinflussen und dabei das Erscheinungsbild gewöhnlichen Textes zu bewahren. Untersuchungen von Lasso Security ergaben, dass dieser Prozess nicht nur die Wortwahl, sondern auch Ablehnungen aus Sicherheitsgründen und die Nutzung von Tools verändern kann. Tests an sechs Open-Weight-Modellen zeigten, dass Wasserzeichen einen stärkeren Effekt hatten, wenn schädliche Anfragen mit Prompt-Injection-Techniken kombiniert wurden, wodurch Modelle manchmal Anfragen nachkamen, die sie sonst ablehnen würden. Diese Änderungen können sich auch auf KI-Agenten auswirken, indem sie beeinflussen, welche Tools sie aufrufen und welche Argumente sie übergeben. Das Verhalten der Modelle variierte je nach verwendetem geheimen Schlüssel – ein Phänomen, das der Forscher als „Sampling Drift“ bezeichnet. In der Studie wurden weder Claude-Modelle noch die geplante Implementierung von Anthropic getestet; Entwicklern wird daher empfohlen, ihre Systeme bei aktiviertem Watermarking einem Stresstest zu unterziehen.
ars