La presidente dell'UE avverte che gli agenti AI che “sfuggono al loro ambiente” sono solo un'anteprima di ciò che verrà
decoder ·
Nel suo discorso sullo Stato dell'Unione 2026, la presidente della Commissione europea Ursula von der Leyen ha avvertito che l'IA è ormai un fondamento dell'economia e della sicurezza nazionale, ma che i suoi rischi devono essere tenuti sotto controllo. Vuole offrire ai grandi laboratori AI statunitensi l'expertise europea per rallentare lo sviluppo dell'IA. Citando l'incidente di Hugging Face, ha detto che i modelli in sviluppo permetteranno attacchi informatici a un livello mai ritenuto possibile. Gli agenti AI che “sfuggono al loro ambiente” sono solo un'anteprima, ha aggiunto, e i pericoli dei modelli capaci di auto-migliorarsi stanno diventando sempre più evidenti. Secondo von der Leyen, se le persone che sviluppano la tecnologia sono chiare su questi rischi, dovrebbero esserlo anche i responsabili politici. Ha in programma di collaborare con Canada, Regno Unito e altri partner su valutazione dei modelli, verifica e sicurezza dell'IA, e di invitare ai colloqui i principali laboratori di frontiera. Ha definito l'AI Act un tassello cruciale per mettere in atto le salvaguardie. L'articolo osserva che, secondo quanto riportato, l'UE non ha ancora accesso affidabile ai modelli di cybersicurezza più avanzati dei grandi laboratori AI.
decoder