Anthropic的新原型证明哪个模型生成了AI响应，而无需暴露其权重
decoder ·
Anthropic发布了FlashProve，这是一个开源研究原型，利用zkSNARK密码学技术来验证AI响应是否由特定的声称模型生成。该系统允许提供商在不暴露底层权重或架构的情况下，生成证明模型参与的紧凑数字凭证。尽管目前限制条件将凭证生成限制在最多1,024个token的上下文和确定性采样中，但该技术相比之前的方法实现了显著的效率飞跃。在H100 GPU上，大型模型的凭证生成速度约为每秒110个token，而在标准CPU上的验证仅需17秒。Anthropic设想了监管机构检查已批准模型、公司证明安全审查以及检测服务器端篡改等应用场景。该项目实现了Anthropic前沿安全路线图中的一个目标，即创建不依赖可信硬件的推理验证工具。完整代码和文档已在GitHub上以Apache 2.0许可证发布。
decoder