Anthropic向METR开放内部访问权限以审计其AI模型和安全实践
decoder ·
Anthropic已授予非营利组织METR前所未有的内部访问权限,以审计其AI模型和安全实践。六名METR员工获得了公司硬件、办公空间以及内部工具的访问权限,其地位与Anthropic自身的风险团队相当。虽然客户数据、受律师-客户特权保护的信息以及模型架构细节仍受到限制,但METR保留独立发布调查结果的权利。该协议允许Anthropic对特定类别要求删除敏感内容,但METR可以公开质疑此类限制的合理性。这一安排超越了此前向SecureBio和埃森哲等其他审查方提供的有限访问权限。此举符合Anthropic在《白宫超级智能协议》下的承诺,即与外部审计员合作。因此,这标志着在第三方验证AI安全协议方面迈出了重要一步。
decoder