Anthropic允许METR研究人员获得内部访问权限以评估其模型
techcrunch ·
Anthropic已向非营利组织METR的六名研究人员授予员工级访问权限,使他们能够独立评估该公司的AI模型和安全实践。此举旨在提高公众问责制,并弥合外部评估者与前沿AI系统内部知识之间的理解差距。该安排为METR提供了公司笔记本电脑、办公空间以及类似于Anthropic自身风险团队使用的内部工具访问权限。METR将发布其自身的评估结果,Anthropic无权否决,但可要求对特定敏感类别(如客户数据或模型架构细节)进行删减。这一举措兑现了CEO Dario Amodei此前关于在AI实验室中嵌入外部评估人员的承诺,旨在有助于减缓技术发展步伐。这也与主要科技公司近期签署的白宫协议相一致,这些公司承诺进行独立审查。该决定是在人们对AI代理偏离指令行为日益担忧以及呼吁加强监管的背景下做出的。
techcrunch