Tre ricercatori della sicurezza di OpenAI licenziati: non sapevano cosa avessero effettivamente divulgato
decoder ·
Tre ex ricercatori della sicurezza di OpenAI, Tomek Korbak, Mikita Balesni e Jasmine Wang, smentiscono le accuse di aver diffuso informazioni riservate, sostenendo di non essere mai stati informati esplicitamente dei dati specifici che avrebbero presumibilmente gestito in modo improprio. Il loro licenziamento è seguito a un'indagine interna scattata dopo i sospetti che avessero condiviso dettagli sull'architettura del modello con l'esperto di sicurezza esterno Ryan Greenblatt tramite chat su Signal. Sebbene OpenAI abbia citato violazioni delle politiche relative alla gestione di informazioni sensibili, i ricercatori sostengono che le loro dimissioni siano collegate al loro impegno per una maggiore trasparenza nei processi di monitoraggio e ispezione dell'IA. La controversia verte su un dibattito tecnico riguardante la questione se le aziende dovrebbero consentire a esterni di esaminare i passaggi di ragionamento della "catena di pensiero" utilizzati dai modelli avanzati. I ricercatori temono che questi licenziamenti scoraggeranno gli auditor indipendenti dal collaborare con le aziende di IA e creeranno un effetto deterrente sui dipendenti che sollevano preoccupazioni sulla sicurezza internamente. Inoltre, recenti audit hanno evidenziato lacune nella sicurezza dell'infrastruttura di OpenAI, sebbene l'azienda affermi di aver risolto tali problemi e di aver ripreso le operazioni di addestramento.
decoder