OpenAI introdurrà filigrane nel testo di ChatGPT nell'UE ma le rende opzionali per gli utenti API in tutto il mondo
decoder ·
OpenAI sta implementando filigrane invisibili per i testi di ChatGPT nell'Unione Europea per conformarsi al AI Act europeo, utilizzando una tecnologia denominata textGrain che incorpora segnali statistici nelle scelte lessicali. A differenza di Anthropic, che ha imposto la filigranatura globale obbligatoria per Claude, OpenAI rende l'opzione facoltativa per gli utenti API in tutto il mondo, consentendo loro di disattivarla. L'azienda segnala che i tassi di rilevamento variano significativamente in base alla lunghezza del testo e all'argomento trattato, con una minore accuratezza per i contenuti matematici rispetto a quelli psicologici. La modifica sostanziale del testo riduce notevolmente le capacità di rilevamento: sostituire solo il 25% delle parole può far scendere i tassi di identificazione sotto il 20%. OpenAI afferma che l'attivazione delle filigrane non impatta negativamente sulle prestazioni del modello o sulla qualità dell'output secondo vari benchmark. Inizialmente, l'accesso al detector sarà limitato a ricercatori e organizzazioni selezionate nel quadro del Codice di condotta dell'UE, per prevenirne l'uso improprio. Il sistema è progettato per confermare solo la presenza di una filigrana, senza identificare gli utenti, assegnare responsabilità o verificare l'accuratezza dei contenuti.
decoder