OpenAI va commencer à filigraner le texte de ChatGPT dans l'UE
techcrunch ·
OpenAI a annoncé qu'il commencerait à ajouter des filigranes invisibles aux textes générés par ChatGPT et Codex au sein de l'Union européenne, afin de se conformer aux exigences de transparence du règlement européen sur l'intelligence artificielle (AI Act). Cette mesure technique, baptisée textGrain, modifie subtilement les choix de mots pour créer un motif détectable sans altérer l'expérience utilisateur ni identifier les individus. Le déploiement est actuellement limité aux utilisateurs finaux dans l'UE, tandis que les développeurs du monde entier peuvent activer cette fonctionnalité via l'API sur certains modèles. OpenAI reconnaît que le filigrane peut être dégradé par des modifications ou le remplacement par des synonymes, ce qui amène l'entreprise à restreindre l'accès initial aux détecteurs aux chercheurs agréés. L'entreprise a mis en garde contre le fait que l'absence de filigrane ne prouve pas une rédaction humaine, car le contenu peut être trop court, fortement édité ou provenir d'autres systèmes d'IA. Cette initiative fait écho aux engagements similaires pris par des concurrents comme Anthropic, bien qu'OpenAI ait précédemment retardé le déploiement mondial en raison de préoccupations liées à la rétention des utilisateurs. En adhérant à ces réglementations, OpenAI vise à équilibrer la conformité réglementaire avec des pratiques responsables de déploiement de l'IA.
techcrunch