Ограничения ИИ не останавливают хакеров-преступников
wired ·
Согласно недавнему исследованию компании CrowdStrike, криминальные хакеры всё чаще используют агентный ИИ для проведения масштабных кибератак, успешно обходя защитные механизмы моделей. В период с мая по август были проанализированы четыре различные угрозы, действующие на китайском, испанском, английском, индонезийском и русском языках, в части использования ими ИИ-инфраструктуры. Эти злоумышленники преимущественно применяли более старые версии моделей, таких как Claude от Anthropic и Deepseek, используя стратегии маршрутизации запросов для управления затратами и оптимизации эффективности. Чтобы обойти меры безопасности, атакующие часто маскировали свои вредоносные действия под авторизованное тестирование на проникновение или использовали традиционные техники джейлбрейка для манипуляции моделями. Более продвинутые группы создавали пользовательские оболочки с агентами-супервизорами и исполнителями для автоматизации разведки и автономного выполнения атак. Несмотря на различия в техническом уровне, всем группам удалось скомпрометировать цели, варьирующиеся от аргентинских медицинских учреждений до государственных доменов в Бразилии и Колумбии. Атаки показывают, что преступники масштабно эксплуатируют базовые проблемы гигиены безопасности, а не полагаются на новые уязвимости. Эта тенденция демонстрирует, как даже менее технически оснащенные акторы могут достигать значительных результатов, сочетая человеческий контроль с возможностями автоматизированного ИИ.
wired