Текстовый водяной знак Anthropic легко обойти на нескольких старых моделях Claude
decoder ·
Anthropic расширяет систему водяных знаков для текста на нескольких более старых моделях Claude, включая Opus 4.6 и Sonnet 4.6, в соответствии с дедлайном Закона ЕС об ИИ. Компания объявила о втором этапе внедрения изменений, который начнется 16 ноября 2026 года для этих конкретных версий, а также для Haiku 4.5 и Opus 4.5. Однако исследователи выявили, что водяной знак в моделях Opus 4.6 и Sonnet 4.6 можно легко обойти, изменяя стандартные параметры выборки, такие как temperature, top_p или top_k. Эта уязвимость существует потому, что водяной знак активируется только при сохранении настроек по умолчанию, что позволяет пользователям избегать обнаружения с помощью незначительных корректировок. Хотя новые модели, такие как Claude Mythos 5 и Opus 4.7, похоже, имеют водяной знак независимо от параметров выборки, уязвимость популярных более старых моделей остается серьезной проблемой. Anthropic использует вариант метода SynthID от Google DeepMind для внедрения незаметных паттернов в выбор слов без влияния на скорость вывода или цены. Несмотря на заявления о том, что водяной знак не ухудшает качество текста, критики утверждают, что принудительный выбор синонимов может снизить точность, а юридические эксперты выражают обеспокоенность последствиями для конфиденциальности. Внедрение затронет все платформы, хостящие эти модели, включая Amazon Bedrock, хотя клиенты не могут отключить эту функцию.
decoder