Anthropic称在打击工业级蒸馏攻击中将Claude推理令牌窃取率降低高达99%
decoder ·
Anthropic 表示,通过新的防御措施,该公司成功将 Claude 推理令牌的窃取行为减少了高达 99%,以应对工业规模的蒸馏攻击。此类攻击涉及不法分子利用大量虚假账户网络,系统性地复制 AI 模型的内部思维链能力,用于训练更小的模型。Anthropic 指出,中国的智谱(Zhipu)和月之暗面(Moonshot)是主要参与者,指控它们窃取了其自身模型乃至潜在的外国军事系统的计算能力。为应对这一威胁,Anthropic 现在限制了对内部推理步骤的访问,采用分类器来检测提取尝试,并自动封禁被标记的账户。结果,数万个账户被封禁,导致成功的蒸馏尝试急剧下降。尽管这些安全措施有效,但在实施过程中也无意中影响了一些合法用户。Anthropic 呼吁其他 AI 开发者采取类似的保护措施,以防止其模型遭受大规模滥用。
decoder