Un autre chercheur de Google DeepMind démissionne, estimant que construire une IA superintelligente bientôt est "intrinsiquement irresponsable"
decoder ·
Robert O'Callahan, expert technique chez Google DeepMind en Nouvelle-Zélande, a démissionné en raison de ses inquiétudes concernant le développement rapide de l'intelligence artificielle. Il soutient que le rythme actuel des changements est excessif et que la poursuite d'une superintelligence artificielle (ASI) à court terme est intrinsèquement irresponsable. O'Callahan avait précédemment contribué aux outils de conception de puces qui ont accéléré les capacités de l'IA, mais estime désormais ne plus pouvoir justifier ce travail. Il invoque des risques importants tels que le surrender cognitif, les perturbations économiques, les menaces pour la cybersécurité et la concentration du pouvoir. Bien qu'il reconnaisse l'incertitude entourant ces dangers, il considère que les préjudices potentiels l'emportent sur les avantages. L'article souligne que si de nombreux collègues partagent ces craintes, peu s'expriment publiquement à ce sujet. O'Callahan fait référence à l'essai « If Anyone Builds It » d'Eliezer Yudkowsky et Nate Soares, sans toutefois approuver entièrement leurs prédictions catastrophistes. Ce départ met en lumière une dissidence interne croissante au sein de l'industrie technologique concernant la sécurité et l'éthique des systèmes d'IA avancés.
decoder