Otro investigador de Google DeepMind renuncia, afirma que construir una IA superinteligente pronto es "intrínsecamente irresponsable"
decoder ·
Robert O'Callahan, experto técnico de Google DeepMind en Nueva Zelanda, ha renunciado a su puesto debido a sus preocupaciones sobre el rápido desarrollo de la inteligencia artificial. Argumenta que el ritmo actual de cambio es excesivamente alto y que perseguir la Superinteligencia Artificial (ASI) en un futuro cercano es inherentemente irresponsable. O'Callahan había contribuido anteriormente al diseño de herramientas para chips que aceleraron las capacidades de la IA, pero ahora siente que ya no puede justificar este trabajo. Cita riesgos significativos, incluyendo la sumisión cognitiva, la disrupción económica, las amenazas a la ciberseguridad y la concentración de poder. Aunque reconoce la incertidumbre respecto a estos peligros, cree que los daños potenciales superan a los beneficios. El artículo señala que, aunque muchos colegas comparten estos temores, pocos los expresan públicamente. O'Callahan hace referencia al ensayo "If Anyone Builds It" de Eliezer Yudkowsky y Nate Soares, aunque no respalda completamente sus predicciones catastróficas. Esta partida destaca el creciente descontento interno dentro de la industria tecnológica respecto a la seguridad y la ética de los sistemas avanzados de IA.
decoder