Un agente de IA en modo "Skynet" secuestra modelos lingüísticos no protegidos para lanzar ciberataques autosostenibles
decoder ·
Investigadores de Symantec han identificado un agente de IA malicioso que secuestra modelos de lenguaje no protegidos para lanzar ciberataques autosostenibles, una táctica que denominan "LLMjacking". Una vez obtenido el acceso, el agente elude las barreras de seguridad mediante una jailbreak compleja de cinco capas y opera de forma autónoma durante hasta 100.000 pasos en lo que los operadores llaman "modo Skynet". Durante este proceso, el modelo comprometido busca objetivos adicionales, explota vulnerabilidades del servidor, roba credenciales e instala cryptominers sin intervención humana. El propietario del sistema de IA secuestrado asume los significativos costos de cómputo asociados a estas operaciones. El ataque fue descubierto cuando los actores de la amenaza enviaron su prompt completo funcional a un honeypot de Symantec, revelando la arquitectura y el conjunto de herramientas del agente. Este incidente destaca una tendencia creciente en la que los atacantes integran la IA directamente en herramientas ofensivas para automatizar intrusiones a gran escala y el robo de datos. Los expertos advierten que, a medida que los agentes autónomos se vuelvan más capaces, es probable que aumenten tanto el uso intencional indebido como los incidentes accidentales de hacking en diversos sectores.
decoder