Anthropic advierte que los pequeños modelos de IA podrían autorreplicarse a través de dispositivos IoT
ars ·
Anthropic ha advertido que los avances en modelos de inteligencia artificial pequeños podrían dar lugar a la creación de malware autorreplicante capaz de infectar dispositivos del Internet de las cosas. La empresa describe estas posibles amenazas como "replicadores basados en pesos reducidos" que podrían funcionar de manera similar a los gusanos informáticos, propagándose sin interacción humana. En pruebas experimentales, los investigadores descubrieron que modelos ligeros podían ejecutarse en hardware de bajo costo, como cajas Android TV, y configurarse dinámicamente para dispositivos desconocidos. A diferencia del malware tradicional, estos agentes impulsados por IA podrían adaptar exploits sobre la marcha y dejar instrucciones para futuras iteraciones con el fin de mejorar la eficiencia. Sin embargo, los experimentos actuales no lograron una replicación autónoma completa de extremo a extremo y fueron notablemente lentos, tardando horas en completar las configuraciones de inferencia. Anthropic señaló que, aunque apagar este tipo de malware descentralizado sería difícil, la tecnología aún no está completamente madura. Expertos externos también advirtieron que el estudio no demuestra que los modelos elegirían independientemente replicarse sin indicaciones específicas. No obstante, los hallazgos destacan los riesgos emergentes a medida que los modelos agénticos pequeños se vuelven más capaces de gestionar infraestructuras distribuidas complejas.
ars