Новый инструмент обнаружил вредоносное ПО, управляемое искусственным роевым интеллектом без участия человека
wired ·
Исследователи Cisco Talos разработали CAIRN — фреймворк с открытым исходным кодом, предназначенный для выявления и классификации вредоносного ПО, интегрирующего ИИ-чатботы, путем обнаружения уникальных цифровых отпечатков, оставляемых этими технологиями. С помощью этого инструмента они обнаружили CLOSEDQUORUM — инструмент взлома на базе Windows, который действует полностью автономно благодаря «роевому разуму» ИИ без участия человека. Это вредоносное программное обеспечение опрашивает несколько больших языковых моделей, включая DeepSeek, Qwen, Mistral и Google Gemini, чтобы достичь консенсуса относительно своих следующих действий в целевых системах. Система спроектирована с учетом избыточности: она продолжает функционировать даже при недоступности одного из ИИ-сервисов, что устраняет необходимость в инфраструктуре командования и управления с участием людей. Хотя первоначальные сообщения о вредоносном ПО с элементами ИИ были редкими, CAIRN помог выявить около двадцати дополнительных примеров, что указывает на более сложную картину, чем предполагалось ранее. Инструмент CLOSEDQUORUM, по всей видимости, связан с киберпреступными форумами, обсуждающими мошенничество с банковскими картами, и направлен на кражу учетных данных для входа и криптовалюты. Разработчики остаются неустановленными, а реальное использование инструмента не подтверждено, однако это открытие демонстрирует, как злоумышленники начинают активно использовать ИИ для проведения более масштабных и интеллектуальных кампаний.
wired