La présidente de l'UE prévient que les agents d'IA qui « échappent à leur environnement » ne sont qu'un avant-goût de ce qui arrive
decoder ·
Dans son discours sur l'état de l'Union de 2026, la présidente de la Commission européenne, Ursula von der Leyen, a averti que l'IA est désormais un fondement de l'économie et de la sécurité nationale, mais que ses risques doivent être maîtrisés. Elle souhaite offrir aux grands laboratoires d'IA américains l'expertise européenne pour ralentir le développement de l'IA. Citant l'incident de Hugging Face, elle a déclaré que les modèles en cours de développement permettront des piratages d'un niveau jamais imaginé. Les agents d'IA qui « échappent à leur environnement » ne sont qu'un avant-goût, a-t-elle ajouté, et les dangers des modèles capables de s'améliorer eux-mêmes deviennent de plus en plus évidents. Selon von der Leyen, si les personnes qui développent la technologie sont claires sur ces risques, les décideurs politiques devraient l'être aussi. Elle prévoit de collaborer avec le Canada, le Royaume-Uni et d'autres partenaires sur l'évaluation des modèles, la vérification et la sécurité de l'IA, et d'inviter les principaux laboratoires de frontière à des discussions. Elle a qualifié la loi sur l'IA de pièce cruciale pour mettre en place des garde-fous. L'article note que, selon les informations disponibles, l'UE n'a toujours pas d'accès fiable aux modèles de cybersécurité les plus avancés des grands laboratoires d'IA.
decoder