A implementação da marca d'água da Anthropic deixa uma brecha em dois modelos Claude mais antigos
decoder ·
A Anthropic está ampliando seu sistema de marca d'água em texto para quatro modelos adicionais do Claude, incluindo Mythos 5 e Opus 4.7, além de aplicá-lo a versões mais antigas dos modelos Opus e Sonnet. A empresa descreve a marca d'água como um padrão imperceptível na escolha das palavras que não altera o significado, a qualidade ou o preço, e afirma que ela não contém dados dos usuários. No entanto, existe uma falha significativa nos modelos Claude Opus 4.6 e Claude Sonnet 4.6, onde os usuários podem contornar a marca d'água modificando parâmetros padrão de amostragem, como temperatura ou top_p. Essa vulnerabilidade é notável porque o Opus 4.6 continua sendo o modelo de escrita principal da Anthropic, superando até mesmo as versões mais recentes. Em contraste, a marca d'água no Mythos 5 e no Opus 4.7 parece ser aplicada independentemente dessas configurações, embora isso não tenha sido detalhado explicitamente no anúncio inicial. O lançamento visa cumprir o prazo de dezembro estabelecido pela Lei de IA da União Europeia, afetando todas as plataformas que hospedam esses modelos sem oferecer opção de exclusão. Embora a Anthropic utilize um método semelhante ao SynthID do Google DeepMind, especialistas questionam se tais ajustes técnicos realmente preservam a precisão semântica e a legibilidade.
decoder