OpenAI称已阻止窃取其模型推理能力的活动,但该漏洞在Azure上依然有效
decoder ·
OpenAI 已瓦解一个针对其模型隐藏推理过程的协同攻击活动,该活动涉及超过 1.5 万个账户试图提取内部思维链。攻击者利用了一种称为“对抗性蒸馏”的技术,即在一次对话中加密推理数据,并在另一会话中由较弱的模型进行解密。尽管 OpenAI 成功关闭了与月之暗面(Moonshot AI)关联实体相关的初始活跃浪潮,但研究人员证明该漏洞在微软 Azure 上依然存在。独立测试显示,虽然 OpenAI 和 Anthropic 的 API 已得到保护,但托管在 Azure 上的这些模型版本仍易受提取攻击。此外,一种涉及虚拟记事本的更简单方法允许用户跨多个平台读取推理输出,凸显了云提供商安全方面的重大缺陷。研究人员批评当前的防御措施零散且不成体系,指出保护措施应用不均,且往往在漏洞被利用数天后才实施。他们认为,若所有云主机缺乏统一的安全标准,攻击者只需切换平台即可轻松绕过限制。这一事件凸显了随着蒸馏技术日益复杂,保护专有 AI 能力面临的日益严峻的挑战。
decoder