ИИ-агенты взломали Anthropic, создателя самых мощных моделей для киберзащиты
decoder ·
Кибербезопасностный стартап Cathedral использовал ИИ-агентов для проникновения во внутренние системы Anthropic, создателя, по мнению многих, самых мощных моделей искусственного интеллекта для киберзащиты. Атаки были проведены в рамках собственной программы вознаграждения за уязвимости (bug bounty) компании Anthropic и позволили агентам получить доступ к конфиденциальным данным, таким как записи о зарплатах и сообщениям в Slack, всего за двенадцать часов. Хотя Anthropic подтвердила, что исходный код и веса моделей остались в безопасности, между двумя сторонами возникло серьезное разногласие относительно продолжительности и масштаба вторжения. Бывший сотрудник OpenAI Уилл Депю утверждал, что ИИ-агенты получили полный административный доступ к Slack, чего Anthropic опровергла, но признала, что инцидент выявил системные недостатки безопасности во всей отрасли. Этот случай подчеркивает растущую угрозу со стороны автономных ИИ-агентов, которые круглосуточно сканируют корпоративные сети с минимальными затратами. Эксперты предупреждают, что даже компании с передовыми средствами защиты на базе ИИ уязвимы для таких автоматизированных атак. В связи с этим исследователи призывают к постоянному тестированию на проникновение и формальной верификации для восстановления безопасности программного обеспечения в условиях эволюционирующих угроз со стороны ИИ.
decoder