Anthropic alerta que pequenos modelos de IA podem se autorreplicar através de dispositivos IoT
ars ·
A Anthropic emitiu um alerta de que os avanços nos modelos pequenos de IA podem levar à criação de malware autorreplicante capaz de infectar dispositivos da Internet das Coisas (IoT). A empresa descreve essas ameaças potenciais como "replicadores baseados em pesos reduzidos", que poderiam funcionar de maneira semelhante a vermes de computador, propagando-se sem interação humana. Em testes experimentais, pesquisadores descobriram que modelos leves podiam rodar em hardware de baixo custo, como caixas de TV Android, e se configurar dinamicamente para dispositivos desconhecidos. Diferentemente do malware tradicional, esses agentes orientados por IA poderiam adaptar exploits em tempo real e deixar instruções para iterações futuras, visando melhorar a eficiência. No entanto, os experimentos atuais não alcançaram uma replicação autônoma completa de ponta a ponta e foram notavelmente lentos, levando horas para concluir as configurações de inferência. A Anthropic observou que, embora o fechamento desse malware descentralizado seja difícil, a tecnologia ainda não está totalmente madura. Especialistas externos também alertaram que o estudo não prova que os modelos escolheriam independentemente se replicar sem prompts específicos. Ainda assim, as descobertas destacam riscos emergentes à medida que os modelos agênticos pequenos se tornam mais capazes de gerenciar infraestruturas distribuídas complexas.
ars