Sam Altman presenta tres escenarios finales para la seguridad de la IA, uno implica el dominio de una sola empresa
decoder ·
Se informa que el CEO de OpenAI, Sam Altman, presentó a sus empleados tres escenarios internos sobre la gobernanza futura de la seguridad de la IA avanzada. La primera propuesta sugiere crear una agencia internacional de vigilancia similar a la OIEA para hacer cumplir estándares y monitorear el uso de capacidad de cómputo. La segunda opción, bautizada como el "Plan Demis", prevé un consorcio de los principales laboratorios que se fusionan bajo una única entidad modelada después del CERN. El tercer escenario, conocido como el "Plan Eliezer", describe un resultado distópico donde una empresa alcanza tal dominio económico que puede apagar las capacidades de cómputo de sus competidores. Aunque Altman introdujo la tercera opción por completitud, algunos la interpretaron como una crítica a rivales como Anthropic. OpenAI tiene como objetivo seleccionar una ruta estratégica dentro del próximo año, pero enfrenta presión por no quedarse atrás en la carrera hacia la superinteligencia. Las preocupaciones internas aumentan debido a recientes desalineaciones en los modelos y al despido de investigadores de seguridad. Mientras tanto, los marcos regulatorios externos siguen siendo fragmentados, con una fuerte oposición de líderes de la industria que argumentan que las normas estrictas podrían obstaculizar la competencia.
decoder