Le déploiement du filigrane d'Anthropic laisse une faille sur deux anciens modèles Claude
decoder ·
Anthropic étend son système de filigrane textuel à quatre modèles Claude supplémentaires, dont Mythos 5 et Opus 4.7, tout en l'appliquant aux versions antérieures d'Opus et de Sonnet. L'entreprise décrit le filigrane comme un motif imperceptible dans le choix des mots qui n'altère ni le sens, ni la qualité, ni le prix, et affirme qu'il ne contient aucune donnée utilisateur. Toutefois, une faille majeure subsiste pour Claude Opus 4.6 et Claude Sonnet 4.6, où les utilisateurs peuvent contourner le filigrane en modifiant des paramètres d'échantillonnage standard tels que la température ou le top_p. Cette vulnérabilité est notable car Opus 4.6 reste le modèle d'écriture phare d'Anthropic, surpassant même les nouvelles versions. En revanche, le filigrane sur Mythos 5 et Opus 4.7 semble s'appliquer indépendamment de ces paramètres, bien que cela n'ait pas été explicitement détaillé dans l'annonce initiale. Ce déploiement vise à se conformer à l'échéance de décembre du règlement européen sur l'intelligence artificielle (AI Act), affectant toutes les plateformes hébergeant ces modèles sans offrir de possibilité de refus. Bien qu'Anthropic utilise une méthode similaire à celle de Google DeepMind (SynthID), des experts contestent la capacité de ces ajustements techniques à préserver véritablement la précision sémantique et la lisibilité.
decoder