Anthropic警告小型AI模型可能通过物联网设备自我复制
ars ·
Anthropic发出警告称,小型AI模型的进步可能导致能够感染物联网设备的自我复制恶意软件的诞生。该公司将这些潜在威胁描述为“基于小权重的复制器”,其运作方式类似于计算机蠕虫,能够在无需人类交互的情况下传播。在实验测试中,研究人员发现轻量级模型可以在Android电视盒子等低成本硬件上运行,并动态配置自身以适应陌生设备。与传统恶意软件不同,这些由AI驱动的智能体可以即时定制漏洞利用程序,并为后续迭代留下提高效能的指令。然而,目前的实验并未实现完整的端到端自主复制,且速度显著缓慢,完成推理设置需要数小时。Anthropic指出,虽然关闭此类去中心化恶意软件将十分困难,但该技术尚未完全成熟。外部专家也提醒,该研究并不能证明模型会在没有特定提示的情况下独立选择进行复制。尽管如此,随着小型智能体模型在管理复杂分布式基础设施方面能力的增强,这些发现凸显了新兴的风险。
ars