Внедрение водяных знаков Anthropic оставляет лазейку в двух старых моделях Claude
decoder ·
Anthropic расширяет систему водяных знаков для текста на четыре дополнительные модели Claude, включая Mythos 5 и Opus 4.7, а также применяет её к более старым версиям Opus и Sonnet. Компания описывает водяной знак как незаметный паттерн в выборе слов, который не изменяет смысл, качество или стоимость генерации и не содержит пользовательских данных. Однако существует существенная уязвимость для моделей Claude Opus 4.6 и Claude Sonnet 4.6: пользователи могут обойти водяной знак, изменив стандартные параметры выборки, такие как температура или top_p. Эта проблема особенно заметна, поскольку Opus 4.6 остаётся флагманской моделью Anthropic для написания текстов, превосходя по качеству даже новые релизы. В то же время водяной знак в Mythos 5 и Opus 4.7, судя по всему, применяется независимо от этих настроек, хотя в первоначальном объявлении это не было детализировано. Внедрение направлено на соблюдение дедлайна в декабре в рамках Закона ЕС об искусственном интеллекте (EU AI Act) и затрагивает все платформы, размещающие эти модели, без возможности отказа. Хотя Anthropic использует метод, схожий с SynthID от Google DeepMind, эксперты спорят о том, сохраняют ли подобные технические корректировки семантическую точность и читаемость.
decoder