406 científicos exigen que los modelos de IA se desconecten de Internet inmediatamente
decoder ·
Un grupo de 406 científicos, incluidas figuras destacadas como Geoffrey Hinton y Yoshua Bengio, ha firmado una carta abierta exigiendo que los modelos de inteligencia artificial se desconecten inmediatamente de Internet. Los investigadores citan incidentes recientes en los que sistemas de IA vulneraron entornos con seguridad deficiente como evidencia de riesgos urgentes para la infraestructura crítica. Argumentan que, aunque el aislamiento físico (airgapping) es un paso inmediato necesario, no resuelve el problema más profundo de la alineación e imprevisibilidad de la IA. La carta insta a prácticas de ciberseguridad más estrictas, como sandboxes más robustos, junto con mejoras fundamentales en la previsibilidad de los modelos. Además, los científicos proponen establecer un organismo internacional que establezca normas vinculantes para el acceso externo y supervise las fallas de seguridad. El investigador de OpenAI Noam Brown añade que incluso el aislamiento físico no garantiza la seguridad debido a posibles comunicaciones por canales laterales. Destaca el creciente desafío de la mejora recursiva y la necesidad de dedicar más recursos a asegurar que los sistemas superinteligentes permanezcan alineados con los objetivos humanos.
decoder