Anthropic 的首个嵌入式评估机构是……埃森哲?
techcrunch ·
Anthropic宣布,埃森哲人工智能部门Faculty的员工将开始在公司内部工作,负责评估模型、开展红队测试、进行对齐评估并测试安全防护措施。Anthropic和埃森哲预计将在未来五年内为这一计划至少投入10亿美元。埃森哲的入选让一些人工智能观察人士感到意外,尤其是因为围绕嵌入式评估人员的讨论此前主要集中在METR、Redwood Research和Apollo Research等组织。Anthropic表示,计划宣布更多评估机构,并正与METR及其他非营利组织讨论使用各自资金开展试点项目。该公司称,埃森哲拥有为企业和政府部署人工智能的经验,而且作为一家大型上市公司具备独立性;但Anthropic也承认,目前尚未建立评估人员访问权限和沟通方面的标准。批评者认为,嵌入式评估可能让人工智能行业自我监管,但Anthropic表示,这种安排将使其问责性更容易得到验证,而不是降低问责性。
techcrunch