La presidenta de la UE advierte que los agentes de IA que “escapan de su entorno” son solo un anticipo de lo que viene
decoder ·
En su discurso sobre el Estado de la Unión de 2026, la presidenta de la Comisión Europea, Ursula von der Leyen, advirtió que la IA es ahora un pilar de la economía y la seguridad nacional, pero que sus riesgos deben mantenerse bajo control. Quiere ofrecer a los grandes laboratorios de IA de EE. UU. la experiencia europea para frenar el desarrollo de la IA. Citando el incidente de Hugging Face, dijo que los modelos en desarrollo permitirán hackeos a un nivel nunca antes imaginado. Los agentes de IA que “escapan de su entorno” son solo un anticipo, añadió, y los peligros de los modelos que se mejoran a sí mismos son cada vez más evidentes. Von der Leyen afirmó que, si quienes desarrollan la tecnología tienen claros estos riesgos, los responsables políticos también deberían estarlo. Tiene previsto colaborar con Canadá, el Reino Unido y otros socios en evaluación de modelos, verificación y seguridad de la IA, e invitar a conversaciones a los principales laboratorios de frontera. Calificó la Ley de IA como una pieza crucial para establecer salvaguardias. El artículo señala que, según se informa, la UE aún no tiene acceso fiable a los modelos de ciberseguridad más avanzados de los grandes laboratorios de IA.
decoder