Anthropic正在开发一种证明AI模型身份的系统
techcrunch ·
Anthropic正在开发一个名为FlashProve的开源系统，用于通过密码学手段验证特定输出是由哪个AI模型生成的。该技术旨在提供“可证明的推理”，确保用户能够确认来自声称模型的响应的真实性。该系统可防范冒充者，包括服务提供商为降低成本或夸大性能指标而秘密替换模型的情况。为使系统运行，实验室需发布其模型的独特指纹，同时不泄露专有权重，从而允许在本地设备进行验证。研究人员已在GitHub上发布了技术规范和代码，作为持续工作的一部分而非最终产品。其目标是使第三方能够验证关于哪些先进模型执行了特定任务的声明。Anthropic明确分享这一中间进展，以鼓励社区的改进与合作。
techcrunch