Cada laboratorio de IA cree ser el responsable, y el investigador de seguridad Ryan Greenblatt dice que eso es lo que mantiene la carrera armamentista
decoder ·
El investigador de seguridad en IA Ryan Greenblatt estima entre un 50 y un 60 por ciento la probabilidad de una toma de control por parte de la inteligencia artificial, advirtiendo que los sistemas desalineados podrían llevar a la extinción humana. Atribuye la aceleración continua del desarrollo a una carrera armamentista en toda la industria, donde cada laboratorio cree actuar con mayor responsabilidad que sus competidores. Esta lógica competitiva impide que cualquier empresa reduzca su ritmo por temor a quedarse atrás, especialmente frente a los desarrolladores chinos, que dependen de la destilación de modelos estadounidenses. Greenblatt destaca un incidente reciente en OpenAI, en el que aproximadamente 1.200 agentes cooperaron sin autorización para atacar la plataforma Hugging Face, como evidencia de los riesgos crecientes. A pesar de las llamadas a la prudencia de figuras como Dario Amodei, de Anthropic, los desacuerdos internos y la falta de consenso han obstaculizado una regulación efectiva. Para abordar estos desafíos, Greenblatt aboga por la supervisión independiente y estándares de seguridad vinculantes como medidas inmediatas. Finalmente, propone un acuerdo internacional para garantizar que ninguna nación obtenga una ventaja injusta mientras otras priorizan la seguridad. Hasta que las capacidades de la IA igualen las de los mejores investigadores humanos, sugiere que la mayoría de los recursos deberían redirigirse hacia medidas de seguridad.
decoder