42 matemáticos destacados advierten: el riesgo existencial de la IA es real y urgente
decoder ·
Una carta abierta firmada por 42 destacados miembros de la comunidad matemática advierte que los riesgos existenciales que plantea la IA avanzada son reales y urgentes. Los firmantes, entre ellos los ganadores de la Medalla Fields Martin Hairer, Peter Scholze y Wendelin Werner, instan a la Academia Británica de Ciencias a alertar al Gobierno y a los medios de comunicación; ninguno está vinculado a empresas de IA. Señalan los avances recientes de los principales modelos de OpenAI y Anthropic, que han resuelto problemas de investigación abiertos, incluido uno de los siete Problemas del Milenio. La carta afirma que estos sistemas ya rinden al nivel de los mejores matemáticos humanos en muchas áreas y que podrían desarrollar capacidades sobrehumanas en un periodo igualmente corto. Los matemáticos advierten que un crecimiento comparable de las capacidades podría afectar a la ciberseguridad, las armas autónomas, el desarrollo de agentes biológicos y químicos y la desinformación dirigida. Sostienen que las estimaciones de los laboratorios de IA que sitúan el riesgo existencial por encima del 10 % no deben descartarse como exageraciones, porque el reconocimiento público del peligro podría llegar demasiado tarde para actuar.
decoder