As barreiras de IA não estão impedindo hackers criminosos
wired ·
Pesquisas recentes da CrowdStrike revelam que hackers criminosos estão cada vez mais utilizando IA autônoma para realizar ciberataques em larga escala, contornando com sucesso as salvaguardas dos modelos. Quatro grupos de ameaças distintos, operando nas línguas chinesa, espanhola, inglesa, indonésia e russa, foram analisados quanto ao uso de infraestrutura de IA entre maio e agosto. Esses atores utilizaram principalmente versões mais antigas de modelos como o Claude da Anthropic e o Deepseek, empregando estratégias como roteamento de modelos para gerenciar custos e otimizar a eficiência. Para contornar as barreiras de segurança, os atacantes frequentemente enquadravam suas atividades maliciosas como testes de penetração autorizados ou usavam técnicas tradicionais de jailbreaking para manipular os modelos. Grupos mais sofisticados construíram harnesses personalizados com agentes supervisores e executores para automatizar o reconhecimento e a execução de ataques de forma autônoma. Apesar dos diferentes níveis de proficiência técnica, todos os grupos conseguiram comprometer alvos que variavam desde entidades de saúde na Argentina até domínios governamentais no Brasil e na Colômbia. Os ataques destacam que os criminosos estão explorando problemas básicos de higiene de segurança em escala, em vez de depender de vulnerabilidades novas. Essa tendência demonstra como até mesmo atores menos sofisticados podem alcançar impacto significativo ao combinar supervisão humana com capacidades automatizadas de IA.
wired