OpenAI inizierà a filigranare il testo di ChatGPT nell'UE
techcrunch ·
OpenAI ha annunciato che inizierà ad aggiungere filigrane invisibili ai testi generati da ChatGPT e Codex all'interno dell'Unione Europea per conformarsi ai requisiti di trasparenza del regolamento UE sull'IA. Questa misura tecnica, nota come textGrain, modella in modo sottile le scelte lessicali per creare un modello rilevabile senza alterare l'esperienza utente o identificare individui. Il rollout è attualmente limitato agli utenti finali nell'UE, mentre gli sviluppatori a livello globale possono abilitare la funzionalità tramite l'API su modelli selezionati. OpenAI riconosce che la filigrana può essere degradata attraverso modifiche o sostituzione con sinonimi, portando l'azienda a limitare l'accesso iniziale ai detector ai ricercatori approvati. L'azienda ha avvertito che l'assenza di una filigrana non prova l'autenticità umana, poiché il contenuto potrebbe essere troppo breve, pesantemente modificato o proveniente da altri sistemi di IA. Questa mossa segue impegni simili da parte di concorrenti come Anthropic, sebbene OpenAI avesse precedentemente ritardato l'implementazione globale a causa di preoccupazioni relative alla ritenzione degli utenti. Adempiendo a queste normative, OpenAI mira a bilanciare la conformità normativa con pratiche responsabili di implementazione dell'IA.
techcrunch