La filigrana testuale di Anthropic è facile da aggirare su diversi modelli più vecchi di Claude
decoder ·
Anthropic sta espandendo il suo sistema di filigrana del testo a diversi modelli più vecchi di Claude, tra cui Opus 4.6 e Sonnet 4.6, in conformità con la scadenza del regolamento UE sull'IA. L'azienda ha annunciato una seconda ondata di aggiornamenti retroattivi a partire dal 16 novembre 2026 per queste versioni specifiche, insieme a Haiku 4.5 e Opus 4.5. Tuttavia, i ricercatori hanno identificato che la filigrana su Opus 4.6 e Sonnet 4.6 può essere facilmente aggirata modificando parametri standard di campionamento come temperatura, top_p o top_k. Questa falla esiste perché la filigrana si attiva solo quando queste impostazioni rimangono ai valori predefiniti, consentendo agli utenti di eludere il rilevamento con modifiche minime. Sebbene i modelli più recenti come Claude Mythos 5 e Opus 4.7 sembrino avere la filigrana applicata indipendentemente dalle impostazioni di campionamento, la vulnerabilità nei modelli più popolari e vecchi rimane una preoccupazione significativa. Anthropic utilizza una variante del metodo SynthID di Google DeepMind per incorporare pattern impercettibili nella scelta delle parole senza influire sulla velocità di output o sui prezzi. Nonostante le affermazioni secondo cui la filigrana non degrada la qualità del testo, i critici sostengono che la selezione forzata dei sinonimi possa ridurre la precisione, mentre gli esperti legali temono implicazioni per la riservatezza. Il rollout interessa tutte le piattaforme che ospitano questi modelli, incluso Amazon Bedrock, sebbene i clienti non possano disabilitare la funzione.
decoder