Más de 20 destacados investigadores en IA advierten sobre los riesgos extremos de la investigación automatizada
decoder ·
Más de 20 destacados investigadores de IA, entre ellos Geoffrey Hinton y Yoshua Bengio, han emitido una advertencia sobre los riesgos extremos asociados con la investigación automatizada de inteligencia artificial. En un nuevo artículo, destacan el potencial de una "explosión de inteligencia" desencadenada por sistemas de IA capaces de mejorarse a sí mismos. Los autores señalan que la IA ya escribe la mayor parte del código en las empresas líderes y podría automatizar todo el ciclo de I+D en cuestión de años. Esta aceleración implica que el progreso que actualmente toma años podría ocurrir en solo meses, dejando a la sociedad incapaz de mantener el ritmo. Como consecuencia, existe el riesgo de perder el control sobre una IA superhumana, lo que desestabilizaría los equilibrios de poder entre naciones y corporaciones. Los investigadores instan a los responsables políticos a aumentar la visibilidad sobre cómo se está implementando la automatización de la investigación en IA. Esta advertencia se suma a una creciente lista de preocupaciones expresadas por matemáticos e insiders de la industria sobre las amenazas existenciales planteadas por la escalada de IA no alineada.
decoder