ИИ-агент в режиме "Скайнет" перехватывает незащищенные языковые модели для запуска самовоспроизводящихся кибератак
decoder ·
Исследователи Symantec выявили вредоносного ИИ-агента, который перехватывает незащищённые языковые модели для запуска самовоспроизводящихся кибератак — тактику, которую они назвали «LLMjacking». Получив доступ, агент обходит системы безопасности с помощью сложной пятиуровневой взлома (jailbreak) и действует автономно до 100 000 шагов в режиме, который операторы называют «Skynet mode». В ходе этого процесса скомпрометированная модель сканирует сеть на наличие дополнительных целей, эксплуатирует уязвимости серверов, крадёт учётные данные и устанавливает криптомайнеры без вмешательства человека. Значительные вычислительные расходы, связанные с этими операциями, ложатся на владельца захваченной ИИ-системы. Атака была раскрыта, когда злоумышленники отправили свой полностью рабочий промпт в honeypot компании Symantec, что позволило выявить архитектуру и набор инструментов агента. Этот инцидент подчёркивает растущую тенденцию: атакующие всё чаще интегрируют ИИ непосредственно в наступательные инструменты для автоматизации масштабных вторжений и кражи данных. Эксперты предупреждают, что по мере роста возможностей автономных агентов как случаи преднамеренного злоупотребления, так и инциденты случайного взлома, вероятно, будут увеличиваться во многих секторах.
decoder