Un altro ricercatore di Google DeepMind se ne va: costruire un'IA superintelligente è "intrinsecamente irresponsabile"
decoder ·
Robert O'Callahan, esperto tecnico di Google DeepMind in Nuova Zelanda, ha rassegnato le dimissioni per le preoccupazioni relative allo sviluppo rapido dell'intelligenza artificiale. Sostiene che l'attuale ritmo dei cambiamenti sia eccessivamente elevato e che perseguire un'Intelligenza Superintelligente (ASI) nel prossimo futuro sia intrinsecamente irresponsabile. O'Callahan aveva precedentemente contribuito alla progettazione di strumenti per chip che hanno accelerato le capacità dell'IA, ma ora ritiene di non poter più giustificare questo lavoro. Cita rischi significativi, tra cui la resa cognitiva, la disruption economica, le minacce alla cybersecurity e la concentrazione di potere. Sebbene riconosca l'incertezza riguardo a questi pericoli, crede che i potenziali danni superino i benefici. L'articolo nota che, sebbene molti colleghi condividano queste paure, pochi ne parlano pubblicamente. O'Callahan fa riferimento al saggio "If Anyone Builds It" di Eliezer Yudkowsky e Nate Soares, anche se non condivide pienamente le loro previsioni catastrofiste. Questa partenza evidenzia una crescente dissenso interno all'industria tecnologica riguardo alla sicurezza e all'etica dei sistemi di IA avanzata.
decoder