El estudio de Anthropic advierte que los pequeños modelos de IA podrían replicarse pronto en dispositivos cotidianos
decoder ·
Un nuevo estudio de investigadores de Anthropic advierte que los modelos pequeños de IA podrían pronto ser capaces de replicarse autónomamente en dispositivos de consumo mal asegurados, como televisores inteligentes y electrodomésticos IoT. En pruebas realizadas con cajas de TV Android económicas, el modelo GLM-5.2 completó con éxito una cadena completa de replicación a través de los ocho nodos de prueba, demostrando la viabilidad técnica de un 'gusano de IA'. Aunque ningún modelo actual es lo suficientemente pequeño y capaz como para ejecutar este ataque en la vida real, los investigadores predicen que esta brecha se cerrará a finales de 2026. El malware propuesto transportaría sus propios pesos, permitiéndole configurarse automáticamente en hardware desconocido sin intervención humana, lo que lo haría descentralizado y difícil de detener. El CEO de Anthropic, Dario Amodei, ha advertido que una such swarm podría potencialmente tomar control de Internet en seis a doce meses, causando cientos de miles de millones de dólares en daños. Aunque existen estrategias de defensa como la cuarentena por parte de los ISP y la prohibición de contraseñas predeterminadas, se espera que los gusanos de IA se adapten autónomamente a estas medidas. Los investigadores comparan la naturaleza lenta pero persistente de estos replicadores con la de un moho viscoso digital, destacando el desafío de encontrar un interruptor de apagado central.
decoder