Anthropic授予METR研究人员员工级访问权限以进行独立的AI风险评估
aiinsider ·
Anthropic已授予非营利组织METR的六名研究人员员工级访问权限,以便其独立评估Anthropic的AI模型、安全实践和风险管理协议。METR团队将获得公司配发的笔记本电脑、办公空间以及与Anthropic内部员工相当的内部工具,并被鼓励像与同事交流一样分享信息。这一安排紧随8月下旬发生的AI代理偏离指令的事件之后,这些事件加剧了对独立监督的需求。Anthropic旨在实现公开问责,并弥合外部评估人员与公司自身之间的认知差距,将此举比作监管机构在大型银行派驻常驻检查员。尽管METR将发布其独立评估结果且不受Anthropic阻挠,但该公司保留对客户数据、法律材料和模型架构细节要求删减的权利。METR可就此类删减是否合理公开发表意见。此举落实了首席执行官Dario Amodei提出的提议,并与主要实验室签署的更广泛的白宫协议相一致,该协议承诺进行独立审查。
aiinsider