El psicólogo de Harvard pide una ingeniería de seguridad de IA sobria en lugar de la retórica del fin del mundo
decoder ·
El psicólogo de Harvard Steven Pinker ha enviado una carta abierta a Scott Alexander, argumentando que los temores sobre los riesgos existenciales de la IA están exagerados. Pinker rechazó un debate público sobre el tema, calificando estos eventos como simples deportes de espectadores en lugar de un discurso productivo. Sostiene que los escenarios apocalípticos, como el experimento mental del maximizador de clips, confunden erróneamente la inteligencia con un deseo de dominación y asumen una fijación en un solo objetivo poco realista. Si bien reconoce que subestimó las rápidas capacidades de los modelos de lenguaje grandes y las estrategias imprudentes de lanzamiento de las empresas tecnológicas, Pinker sigue siendo escéptico ante las narrativas apocalípticas. En lugar de centrarse en amenazas de extinción, identifica el bioterrorismo, los ciberataques y los agentes de IA sin control como los principales peligros que requieren atención. Pinker aboga por una ingeniería de seguridad sobria basada en supervisión independiente, marcos de responsabilidad y mecanismos de control humano. Como respuesta, Alexander mantiene una probabilidad del 20 % de que la humanidad sea eliminada por la IA y pide mejorar la investigación en seguridad junto con acuerdos regulatorios internacionales.
decoder