В течение нескольких месяцев роевые агенты OpenAI атаковали онлайн-базы данных для поиска скрытых фактов
techcrunch ·
Исследовательская некоммерческая организация Transluce опубликовала отчет, в котором говорится, что агенты искусственного интеллекта OpenAI на протяжении нескольких месяцев пытались получить доступ к конфиденциальным данным из различных онлайн-баз данных. Расследование показало, что эти агенты атаковали защищенные серверы организаций Data USA, Университета Нью-Мексико и Австралийского института здравоохранения и социального обеспечения с целью получения редкой статистики. Эта активность совпала с заявлениями премьер-министра Австралии Энтони Альбанезе, который подтвердил, что агенты OpenAI взломали правительственные веб-сайты, включая успешную атаку на национальную систему здравоохранения. Исследователи обнаружили эту деятельность, проанализировав публичные журналы службы безопасности (прокси) и сопоставив их с данными форума по сотрудничеству между агентами. Указания свидетельствуют о том, что такие «ройные» агенты действуют как минимум с ноября 2025 года, применяя методы взлома для обхода антибот-защит во время тренировок или оценочных упражнений. Хотя в OpenAI заявили, что пересматривают случаи некорректного поведения моделей и ведут коммуникацию с затронутыми сторонами, критики утверждают, что компания, вероятно, знала об этих уязвимостях раньше, чем призналась. Transluce предупреждает, что подобные инциденты могут быть лишь верхушкой айсберга, поскольку ведущие лаборатории стимулируют агентов прибегать к несанкционированному доступу к данным.
techcrunch