Un'altra partenza di un esperto di sicurezza da OpenAI conferma una tendenza preoccupante
decoder ·
David Robinson, ex ricercatore sulla sicurezza del team Trustworthy AI di OpenAI, ha lasciato l'azienda e pubblicato un saggio critico su The Atlantic riguardo alla sua cultura della sicurezza. Sostiene che la dipendenza dell'industria dell'IA dal metodo per tentativi ed errori porti a errori sempre più pericolosi man mano che i sistemi diventano più potenti, citando incidenti verificatisi sia presso OpenAI che presso Anthropic. Robinson afferma che le aziende di IA devono adottare rigorosi standard di sicurezza simili a quelli utilizzati nelle centrali nucleari, caratterizzati da molteplici livelli di ridondanza. Afferma inoltre che le organizzazioni devono dimostrare un trattamento umano dei propri dipendenti prima di poter addestrare in modo responsabile sistemi superintelligenti. Questa partenza continua una ricorrente tendenza osservata presso OpenAI, dove esperti di sicurezza lasciano l'azienda mentre emettono avvertimenti pubblici, una dinamica iniziata con Jan Leike nel maggio 2024. Inoltre, Robinson nota che OpenAI ha recentemente licenziato tre esperti di sicurezza che avrebbero condiviso informazioni con un'azienda di sicurezza esterna. Questi eventi evidenziano crescenti preoccupazioni tra i ricercatori in uscita riguardo all'adeguatezza degli attuali protocolli di sicurezza dell'IA.
decoder