OpenAI va marquer d'eau le texte de ChatGPT dans l'UE mais le rendra optionnel pour les utilisateurs de l'API dans le monde entier
decoder ·
OpenAI met en œuvre des filigranes invisibles pour les textes générés par ChatGPT dans l'Union européenne afin de se conformer au règlement européen sur l'intelligence artificielle, en utilisant une technologie appelée textGrain qui intègre des signaux statistiques dans le choix des mots. Contrairement à Anthropic, qui impose un filigranage mondial obligatoire pour Claude, OpenAI rend cette fonctionnalité optionnelle pour les utilisateurs de l'API dans le monde entier, leur permettant de la désactiver. L'entreprise indique que les taux de détection varient considérablement selon la longueur du texte et le sujet traité, avec une précision plus faible pour les contenus mathématiques que pour les sujets psychologiques. La modification substantielle d'un texte réduit considérablement la capacité de détection : remplacer seulement 25 % des mots peut faire chuter les taux d'identification en dessous de 20 %. OpenAI affirme que l'activation des filigranes n'affecte pas négativement les performances du modèle ou la qualité des sorties sur divers benchmarks. Au départ, l'accès au détecteur sera restreint aux chercheurs et organisations sélectionnés dans le cadre du Code de pratique de l'UE afin de prévenir tout abus. Le système est conçu pour confirmer uniquement la présence d'un filigrane, sans identifier les utilisateurs, attribuer de responsabilités ni vérifier l'exactitude du contenu.
decoder