Google DeepMind lanza un instituto para ampliar el debate sobre la AGI
techcrunch ·
Investigadores de Google y Google DeepMind han creado el DeepMind Institute para promover el debate sobre la inteligencia artificial general (AGI). Entre sus directores se encuentran el cofundador de DeepMind, Shane Legg; el ejecutivo de Google, James Manyika; y el presidente de Google DeepMind, Demis Hassabis, mientras que Legg se desempeña como editor jefe. El instituto afirma que presentará distintas perspectivas de Google, Google DeepMind y la comunidad de investigación en general, reconociendo que esas opiniones pueden cambiar a medida que surja nueva información. Sus cuatro primeros ensayos abordan políticas para gestionar una posible disrupción económica, preservar la legibilidad del razonamiento de los modelos, principios para el florecimiento humano y métodos para evaluar modelos de IA de frontera. Uno de los ensayos sostiene que la disminución de la transparencia en los modelos avanzados no es inevitable y pide a desarrolladores y reguladores que aborden las compensaciones relacionadas con la supervisión, mientras que Hassabis propone un organismo de estándares liderado por Estados Unidos que inicialmente revisaría los modelos de manera voluntaria antes de posibles evaluaciones obligatorias. Las propuestas reflejan un cambio más amplio en el debate sobre la seguridad de la IA hacia la divulgación, el escrutinio externo y posibles desaceleraciones coordinadas en el desarrollo de la IA de frontera.
techcrunch