关于独立评估者的最新进展
anthropic ·
Anthropic宣布大幅扩展其独立评估框架,向专注于前沿人工智能模型评估的非营利组织METR授予类员工访问权限。此举与Anthropic近期加强第三方监督的承诺以及签署《白宫超级智能协议》相一致。该公司旨在通过提供对训练数据、安全护栏和风险评估的深度可见性,弥合内部安全团队与外部审计员之间的知识差距。虽然METR保留发布调查结果且不受否决权的自由,但Anthropic保留删除特定敏感类别(如客户数据或律师-客户特权信息)的权利。为管理这一流程,Anthropic正在开发一个三级访问系统,供不同评估者使用,范围从 narrowly scoped 调查到全面嵌入式合作。目前,SecureBio处于第一级,审查特定风险报告章节;埃森哲(Accenture)和Faculty则参与更广泛的对齐和红队测试合作。其他组织如Hugging Face正处于早期讨论阶段,未来可能被纳入这一健全的安全监督结构。
anthropic