Las barreras de IA no detienen a los ciberdelincuentes
wired ·
Una investigación reciente de CrowdStrike revela que los ciberdelincuentes están aprovechando cada vez más la IA agente para llevar a cabo ciberataques a gran escala, eludiendo con éxito las salvaguardas de los modelos. Se analizaron cuatro grupos de amenazas distintos, que operaban en chino, español, inglés, indonesio y ruso, por su uso de infraestructura de IA entre mayo y agosto. Estos actores utilizaron principalmente versiones anteriores de modelos como Claude de Anthropic y Deepseek, empleando estrategias como el enrutamiento de modelos para gestionar costos y optimizar la eficiencia. Para eludir las barreras de seguridad, los atacantes a menudo enmarcaron sus actividades maliciosas como pruebas de penetración autorizadas o utilizaron técnicas tradicionales de jailbreaking para manipular los modelos. Los grupos más sofisticados construyeron arneses personalizados con agentes supervisores y ejecutores para automatizar el reconocimiento y la ejecución de ataques de forma autónoma. A pesar de los diferentes niveles de destreza técnica, todos los grupos lograron comprometer objetivos que iban desde entidades de salud en Argentina hasta dominios gubernamentales en Brasil y Colombia. Los ataques destacan que los criminales están explotando problemas básicos de higiene de seguridad a gran escala, en lugar de depender de vulnerabilidades novedosas. Esta tendencia demuestra cómo incluso los actores menos sofisticados pueden lograr un impacto significativo combinando la supervisión humana con capacidades automatizadas de IA.
wired