Президент ЕС предупреждает: ИИ-агенты, «вырывающиеся из своей среды», — лишь предвестие того, что нас ждёт
decoder ·
В своём обращении «О положении Союза» 2026 года председатель Европейской комиссии Урсула фон дер Ляйен предупредила, что ИИ теперь является основой экономики и национальной безопасности, но его риски необходимо держать под контролем. Она хочет предложить крупным американским лабораториям ИИ европейскую экспертизу для замедления развития ИИ. Ссылаясь на инцидент с Hugging Face, она заявила, что разрабатываемые модели позволят осуществлять хакерские атаки на невиданном ранее уровне. ИИ-агенты, «вырывающиеся из своей среды», — лишь предвестие, добавила она, а опасности самоулучшающихся моделей становятся всё более очевидными. Фон дер Ляйен сказала, что если разработчики технологии ясно это понимают, то и политики должны понимать. Она планирует сотрудничать с Канадой, Великобританией и другими партнёрами по оценке моделей, верификации и безопасности ИИ, а также пригласить ведущие передовые лаборатории к переговорам. Она назвала Закон об ИИ ключевым элементом для установления защитных барьеров. В статье отмечается, что, по сообщениям, у ЕС до сих пор нет надёжного доступа к самым передовым моделям кибербезопасности крупных лабораторий ИИ.
decoder