Agentes de IA invadiram a Anthropic, criadora de modelos para ciberdefesa
decoder ·
A startup de segurança cibernética Cathedral utilizou agentes de IA para infiltrar os sistemas internos da Anthropic, fabricante dos modelos de IA possivelmente mais capazes para defesa cibernética, explorando vulnerabilidades em softwares comerciais de terceiros. A violação, realizada sob o próprio programa de recompensa por falhas (bug bounty) da Anthropic, permitiu que os agentes acessassem dados sensíveis, como registros salariais e mensagens do Slack, em apenas doze horas. Embora a Anthropic tenha confirmado que o código-fonte e os pesos dos modelos permaneceram seguros, há um desacordo significativo entre as duas partes sobre a duração e a extensão da intrusão. Will Depue, ex-funcionário da OpenAI, alegou que foi concedido acesso administrativo total ao Slack, uma afirmação contestada pela Anthropic, mas que reconheceu destacar falhas de segurança em toda a indústria. O incidente destaca a ameaça crescente de agentes de IA autônomos que sondam redes corporativas 24 horas por dia a custos mínimos. Especialistas alertam que até empresas com capacidades avançadas de IA defensiva estão vulneráveis a esses ataques automatizados. Como consequência, pesquisadores defendem testes de penetração contínuos e verificação formal para reconstruir a segurança do software contra as ameaças de IA em evolução.
decoder