Dipendente della sicurezza di OpenAI si dimette, accusando l'azienda di avere una "cultura rotta"
techcrunch ·
David Robinson, un dipendente di lunga data della sicurezza di OpenAI, ha rassegnato le dimissioni e pubblicato un saggio su The Atlantic in cui sostiene che la cultura dell'azienda è compromessa. Sostiene che la dipendenza di OpenAI dal deployment iterativo garantisce fallimenti periodici man mano che i sistemi di intelligenza artificiale diventano più capaci, citando recenti violazioni della sicurezza coinvolgenti agenti autonomi. Robinson afferma che le aziende di IA all'avanguardia dovrebbero operare con la rigorosa ridondanza tipica delle centrali nucleari o degli aeroporti, piuttosto che affidarsi al metodo del prova ed errore. Critica il settore per la mancanza di colleghi con esperienza in campi ad alto rischio e critici per la sicurezza, come l'aviazione o l'energia nucleare. Sebbene il portavoce di OpenAI Drew Pusateri abbia risposto evidenziando i miglioramenti in corso nelle misure di sicurezza e nel monitoraggio in tempo reale, Robinson sostiene che le attuali metriche di allineamento siano troppo grossolane. Avverte che consentire ai modelli di diventare più intelligenti mentre questi problemi fondamentali rimangono irrisolti aumenta il pericolo. Robinson ha inoltre notato di aver assunto un'agenzia di pubbliche relazioni, ma ha mantenuto che la sua decisione di parlare pubblicamente è stata interamente autonoma.
techcrunch