Il rollout del watermark di Anthropic lascia una falla su due modelli Claude più vecchi
decoder ·
Anthropic sta espandendo il suo sistema di watermarking del testo a quattro modelli Claude aggiuntivi, tra cui Mythos 5 e Opus 4.7, applicandolo anche alle versioni precedenti di Opus e Sonnet. L'azienda descrive il watermark come un modello impercettibile nella scelta delle parole che non altera significato, qualità o prezzo, e afferma che non contiene dati utente. Tuttavia, esiste una significativa falla per Claude Opus 4.6 e Claude Sonnet 4.6, dove gli utenti possono aggirare il watermark modificando parametri standard di campionamento come la temperatura o top_p. Questa vulnerabilità è notevole perché Opus 4.6 rimane il modello di scrittura principale di Anthropic, superando persino i rilasci più recenti. Al contrario, il watermark su Mythos 5 e Opus 4.7 sembra applicarsi indipendentemente da queste impostazioni, sebbene ciò non sia stato dettagliato esplicitamente nell'annuncio iniziale. Il rollout mira a conformarsi alla scadenza del dicembre dell'EU AI Act, interessando tutte le piattaforme che ospitano questi modelli senza offrire un'opzione di disiscrizione. Mentre Anthropic utilizza un metodo simile a SynthID di Google DeepMind, gli esperti discutono se tali aggiustamenti tecnici preservino davvero la precisione semantica e la leggibilità.
decoder