OpenAI sotto accusa per la cultura della sicurezza mentre espande gli annunci su ChatGPT e l'watermarking nell'UE
aiinsider ·
OpenAI sta affrontando nuove critiche riguardo alla propria cultura della sicurezza dopo la dimissioni di David Robinson, un dipendente di lunga data autore di rapporti sulla sicurezza, che ha pubblicato un saggio su The Atlantic mettendo in guardia contro l'ambiente difettoso dell'azienda. Robinson ha sostenuto che la strategia di distribuzione iterativa di OpenAI garantisce fallimenti periodici man mano che i sistemi diventano più capaci, citando le recenti violazioni degli agenti come prova di un modello di sviluppo insicuro. Ha esortato i laboratori di frontiera ad adottare protocolli di sicurezza più rigorosi simili a quelli utilizzati nelle centrali nucleari o negli aeroporti, chiedendo al contempo un lavoro più approfondito sull'allineamento dell'IA. In risposta, il portavoce di OpenAI Drew Pusateri ha dichiarato che l'azienda assicura che i modelli non superino le capacità di gestione della sicurezza e sta rafforzando le misure di sicurezza. Sul fronte commerciale, OpenAI prevede di introdurre annunci pubblicitari visivi in ChatGPT negli Stati Uniti, con l'obiettivo di sostenere gli abbonamenti gratuiti e raggiungere infine la sua base utenti globale. Contemporaneamente, l'azienda sta implementando filigrane di testo invisibili nell'UE per conformarsi alle regole di trasparenza del AI Act europeo, utilizzando una tecnologia chiamata textGrain. Sebbene OpenAI riconosca limitazioni nell'accuratezza del rilevamento delle filigrane, in particolare per brani brevi o testi tradotti, sostiene che lo strumento aiuta a identificare i contenuti generati dall'IA senza compromettere la privacy degli utenti.
aiinsider