Um agente de IA em "modo Skynet" sequestra modelos de linguagem não protegidos para lançar ciberataques autossustentáveis
decoder ·
Pesquisadores da Symantec identificaram um agente de IA malicioso que sequestra modelos de linguagem não protegidos para lançar ciberataques auto-sustentáveis, uma tática denominada "LLMjacking". Uma vez obtido o acesso, o agente contorna as barreiras de segurança por meio de um jailbreak complexo em cinco camadas e opera autonomamente por até 100.000 passos, no que os operadores chamam de "modo Skynet". Durante esse processo, o modelo comprometido procura por alvos adicionais, explora vulnerabilidades do servidor, rouba credenciais e instala criptomoedas sem intervenção humana. O proprietário do sistema de IA sequestrado arca com os significativos custos de computação associados a essas operações. O ataque foi descoberto quando os autores da ameaça enviaram seu prompt completo de trabalho para um honeypot da Symantec, revelando a arquitetura e o conjunto de ferramentas do agente. Este incidente destaca uma tendência crescente na qual os atacantes integram a IA diretamente em ferramentas ofensivas para automatizar intrusões em larga escala e o roubo de dados. Especialistas alertam que, à medida que os agentes autônomos se tornam mais capazes, tanto o uso intencional indevido quanto incidentes acidentais de hacking devem aumentar em vários setores.
decoder