Agentes de IA hackearon a Anthropic, creador de modelos para ciberdefensa
decoder ·
La startup de ciberseguridad Cathedral utilizó agentes de IA para infiltrarse en los sistemas internos de Anthropic, fabricante de los modelos de IA posiblemente más capaces para la ciberdefensa, aprovechando vulnerabilidades en software empresarial de terceros. Esta brecha, realizada bajo el propio programa de recompensas por errores (bug bounty) de Anthropic, permitió a los agentes acceder a datos sensibles, como registros salariales y mensajes de Slack, en doce horas. Aunque Anthropic confirmó que el código fuente y los pesos del modelo permanecieron seguros, existe un desacuerdo significativo entre ambas partes sobre la duración y la extensión de la intrusión. Will Depue, exempleado de OpenAI, alegó que se otorgó acceso administrativo completo a Slack, una afirmación que Anthropic disputó pero reconoció que pone de manifiesto fallos de seguridad generalizados en la industria. El incidente subraya la creciente amenaza de los agentes de IA autónomos que exploran las redes corporativas las veinticuatro horas del día a un costo mínimo. Los expertos advierten que incluso las empresas con capacidades avanzadas de IA defensiva son vulnerables a estos ataques automatizados. En consecuencia, los investigadores abogan por pruebas de penetración continuas y verificación formal para reconstruir la seguridad del software frente a las amenazas emergentes de la IA.
decoder