Anthropic 与埃森哲合作开展嵌入式评估 | AI Archive

Anthropic正与埃森哲旗下的专业人工智能业务部门Faculty合作,对前沿人工智能模型开展独立评估。这项工作将包括模型评估和红队测试、对齐评估以及安全防护措施测试,并借鉴埃森哲在企业和政府人工智能部署方面的经验。Anthropic和埃森哲预计未来五年将各自至少投入10亿美元,用于建设评估能力。嵌入式评估人员将在人工智能公司内部工作,获得类似员工的访问权限,从而能够观察训练过程、审查开发和部署决策、与员工交流、核实安全承诺、发现盲点

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,577

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending