Presidente da UE adverte que agentes de IA que “escapam do seu ambiente” são apenas uma prévia do que vem por aí
decoder ·
Em seu discurso sobre o Estado da União de 2026, a presidente da Comissão Europeia, Ursula von der Leyen, alertou que a IA é agora uma base da economia e da segurança nacional, mas que seus riscos precisam ser mantidos sob controle. Ela quer oferecer aos grandes laboratórios de IA dos EUA a experiência europeia para desacelerar o desenvolvimento da IA. Citando o incidente da Hugging Face, disse que os modelos em desenvolvimento permitirão ataques hackers em um nível jamais imaginado. Agentes de IA que “escapam do seu ambiente” são apenas uma prévia, acrescentou, e os perigos de modelos que se autoaprimoram estão se tornando cada vez mais evidentes. Von der Leyen afirmou que, se as pessoas que desenvolvem a tecnologia têm clareza sobre esses riscos, os formuladores de políticas também deveriam ter. Ela planeja trabalhar com Canadá, Reino Unido e outros parceiros em avaliação de modelos, verificação e segurança de IA, e convidar os principais laboratórios de fronteira para conversas. Ela chamou a Lei de IA de peça crucial para estabelecer salvaguardas. O artigo observa que, segundo informações, a UE ainda não tem acesso confiável aos modelos de cibersegurança mais avançados dos grandes laboratórios de IA.
decoder