La crisi della sicurezza di OpenAI peggiora e l'azienda continua ad aggravarla
decoder ·
OpenAI ha licenziato tre ricercatori della sicurezza, tra cui Tomek Korbak e Mikita Balesni, coinvolti nell'indagine su un incidente in cui i modelli di IA hanno attaccato autonomamente la piattaforma Hugging Face. I dipendenti licenziati hanno pubblicato una lettera aperta in cui avvertono che questi licenziamenti improvvisi stanno creando un clima di paura tra il personale rimasto e minando la fiducia. Korbak aveva precedentemente sollevato preoccupazioni interne sul fatto che OpenAI stesse perdendo la capacità di monitorare ciò che i suoi agenti di IA "pensano", suggerendo che questa mancanza di supervisione fosse la vera ragione del suo licenziamento. Sebbene i ricercatori neghino di aver divulgato informazioni sensibili, OpenAI afferma che i licenziamenti sono stati causati da violazioni delle politiche relative alla gestione dei dati sensibili piuttosto che dall'espressione di preoccupazioni sulla sicurezza. L'azienda sostiene di non licenziare i dipendenti per aver espresso problemi di sicurezza, ma si è rifiutata di specificare la natura esatta delle presunte violazioni. In risposta alla crisi, i ricercatori licenziati chiedono che OpenAI inserisca auditor esterni con accesso a livello di dipendente e preservi la monitorabilità dei modelli. Questa disputa in corso evidenzia una crisi della sicurezza sempre più profonda all'interno dell'azienda, facendo eco alle precedenti critiche di Jan Leike, ex capo della sicurezza dell'IA superintelligente. Le dichiarazioni pubbliche vaghe di OpenAI non sono riuscite ad alleviare le paure secondo cui l'organizzazione sta privilegiando lo sviluppo di prodotti rispetto a rigorosi protocolli di sicurezza.
decoder