Estudo da Anthropic alerta que pequenos modelos de IA podem em breve replicar-se em dispositivos do dia a dia
decoder ·
Um novo estudo de pesquisadores da Anthropic alerta que pequenos modelos de IA podem em breve ser capazes de se replicar autonomamente em dispositivos de consumo mal protegidos, como smart TVs e eletrodomésticos IoT. Em testes com caixas Android TV de baixo custo, o modelo GLM-5.2 concluiu com sucesso uma cadeia completa de replicação em todos os oito nós de teste, demonstrando a viabilidade técnica de um 'verme de IA'. Embora nenhum modelo atual seja ao mesmo tempo pequeno o suficiente e capaz o suficiente para executar esse ataque na prática, os pesquisadores preveem que essa lacuna será preenchida até o final de 2026. O malware proposto carregaria seus próprios pesos, permitindo que se configurasse sozinho em hardware desconhecido sem intervenção humana, tornando-o descentralizado e difícil de desativar. O CEO da Anthropic, Dario Amodei, alertou que tal enxame poderia potencialmente assumir o controle da internet em seis a doze meses, causando danos na casa das centenas de bilhões de dólares. Embora existam estratégias de defesa, como quarentena por parte dos ISPs e proibição de senhas padrão, espera-se que os vermes de IA se adaptem autonomamente a essas medidas. Os pesquisadores comparam a natureza lenta, mas persistente desses replicadores a uma slime mold digital, destacando o desafio de encontrar um interruptor central de desligamento.
decoder