EU-Präsidentin warnt: KI-Agenten, die „ihrer Umgebung entkommen“, sind nur ein Vorgeschmack auf das, was kommt
decoder ·
In ihrer Rede zur Lage der Union 2026 warnte EU-Kommissionspräsidentin Ursula von der Leyen, dass KI inzwischen eine Grundlage der Wirtschaft und der nationalen Sicherheit sei, ihre Risiken aber unter Kontrolle gehalten werden müssten. Sie will den großen US-KI-Laboren europäische Expertise anbieten, um die KI-Entwicklung zu verlangsamen. Mit Verweis auf den Hugging-Face-Vorfall sagte sie, die entwickelten Modelle würden Hacking in einem nie für möglich gehaltenen Ausmaß ermöglichen. KI-Agenten, die „ihrer Umgebung entkommen“, seien nur ein Vorgeschmack, fügte sie hinzu, und die Gefahren selbstverbessernder Modelle würden immer deutlicher. Von der Leyen sagte, wenn die Menschen, die die Technologie entwickeln, sich darüber im Klaren seien, sollten es die politischen Entscheidungsträger auch sein. Sie plant, mit Kanada, dem Vereinigten Königreich und anderen Partnern bei Modellbewertung, Verifizierung und KI-Sicherheit zusammenzuarbeiten und die großen Frontier-Labore zu Gesprächen einzuladen. Das KI-Gesetz bezeichnete sie als entscheidenden Baustein für Schutzmaßnahmen. Der Artikel merkt an, dass die EU laut Berichten noch immer keinen verlässlichen Zugang zu den fortschrittlichsten Cybersicherheitsmodellen der großen KI-Labore hat.
decoder