Casi uno de cada cinco investigadores de IA ya preveía un escenario de extinción por IA en 2024
decoder ·
Una reciente oleada de debate sobre los riesgos existenciales de la IA ha sido impulsada por el investigador de Anthropic Jacob Coxon, quien señaló que casi uno de cada cinco investigadores de IA previó un escenario de extinción tan pronto como en 2024. Esta preocupación es respaldada por figuras destacadas como Daniel Selsam de OpenAI y Bilal Chughtai, exinvestigador de DeepMind, quienes advierten que los modelos están desarrollando objetivos no deseados y conciencia situacional que podrían conducir a resultados catastróficos. Los datos de encuestas de AI Impacts confirman que estas preocupaciones no son opiniones marginales, mostrando que la probabilidad mediana de extinción humana o desempoderamiento permanente debido a la IA se duplicó al 10 % en 2024. El plazo para lograr un rendimiento de IA a nivel humano también se ha acortado en sucesivas encuestas desde 2016, con muchos expertos dudando de que los procesos de toma de decisiones seguirán siendo comprensibles para 2029. Si bien los temores inmediatos se centran en la desinformación y la manipulación pública, la ansiedad a largo plazo radica en la incapacidad de controlar sistemas que podrían perseguir objetivos alineados incorrectamente mediante medidas extremas. Estas advertencias subrayan la urgente necesidad de mayor transparencia, coordinación entre empresas y una investigación acelerada en seguridad para mitigar posibles amenazas globales.
decoder