A OpenAI irá marcar textos do ChatGPT na UE, mas tornará opcional para usuários da API em todo o mundo
decoder ·
A OpenAI está implementando marcas d'água invisíveis no texto do ChatGPT na União Europeia para cumprir o Regulamento de IA da UE, utilizando uma tecnologia chamada textGrain que incorpora sinais estatísticos nas escolhas de palavras. Diferentemente da Anthropic, que adotou a marca d'água global e obrigatória para o Claude, a OpenAI torna a marca d'água opcional para usuários da API em todo o mundo, permitindo que a desativem. A empresa relata que as taxas de detecção variam significativamente com base no comprimento do texto e no assunto, com menor precisão para conteúdo matemático em comparação com tópicos de psicologia. A edição substancial do texto reduz consideravelmente a capacidade de detecção, pois substituir apenas 25% das palavras pode fazer com que as taxas de identificação caiam abaixo de 20%. A OpenAI afirma que ativar as marcas d'água não impacta negativamente o desempenho do modelo ou a qualidade da saída em vários benchmarks. Inicialmente, o acesso ao detector será restrito a pesquisadores e organizações selecionados sob o Código de Prática da UE para evitar o uso indevido. O sistema foi projetado para confirmar apenas a presença de uma marca d'água, sem identificar usuários, atribuir responsabilidade ou verificar a precisão do conteúdo.
decoder