एक से अधिक पुराने क्लॉड मॉडल्स पर एन्थ्रोपिक का टेक्स्ट वाटरमार्क आसानी से बायपास किया जा सकता है
decoder ·
Anthropic ने EU AI Act की समयसीमा के अनुपालन में Opus 4.6 और Sonnet 4.6 सहित कई पुराने Claude मॉडलों पर अपने टेक्स्ट वाटरमार्किंग सिस्टम का विस्तार किया है। कंपनी ने 16 नवंबर, 2026 से इन विशिष्ट संस्करणों और Haiku 4.5 तथा Opus 4.5 के लिए दूसरे चरण के रेट्रोफिट्स की घोषणा की है। हालांकि, शोधकर्ताओं ने पाया है कि Opus 4.6 और Sonnet 4.6 पर वाटरमार्क को तापमान (temperature), top_p या top_k जैसे मानक सैंपलिंग पैरामीटर को बदलकर आसानी से बायपास किया जा सकता है। यह कमजोरी इसलिए मौजूद है क्योंकि वाटरमार्क तभी सक्रिय होता है जब ये सेटिंग्स उनके डिफ़ॉल्ट मान पर रहती हैं, जिससे उपयोगकर्ता हल्की बदलावों के साथ पहचान से बच सकते हैं। हालाँकि, Claude Mythos 5 और Opus 4.7 जैसे नए मॉडलों में वाटरमार्क सैंपलिंग सेटिंग्स से स्वतंत्र रूप से लागू होता प्रतीत होता है, लेकिन लोकप्रिय पुराने मॉडलों में इस कमजोरी को लेकर गंभीर चिंताएं व्यक्त की गई हैं। Anthropic Google DeepMind के SynthID विधि के एक रूप का उपयोग करके शब्द चयन में अदृश्य पैटर्न एम्बेड करता है, जो आउटपुट गति या मूल्य निर्धारण को प्रभावित नहीं करता है। भले ही दावा किया जाता है कि वाटरमार्क टेक्स्ट गुणवत्ता को खराब नहीं करता है, आलोचकों का तर्क है कि जबरन समानार्थी शब्दों का चयन सटीकता को कम कर सकता है, और कानूनी विशेषज्ञ गोपनीयता के प्रभावों को लेकर चिंतित हैं। यह लॉन्च Amazon Bedrock सहित उन सभी प्लेटफॉर्मों को प्रभावित करता है जहाँ ये मॉडल होस्ट किए गए हैं, हालाँकि ग्राहक इस सुविधा को निष्क्रिय नहीं कर सकते हैं।
decoder