Anthropic 和 OpenAI 提议让独立安全评估人员进驻人工智能公司 | AI Archive

Anthropic首席执行官达里奥·阿莫迪提议,前沿人工智能公司应引入独立的第三方评估机构,让其能够评估模型的对齐情况、报告安全事件,并在不受编辑控制的情况下发布调查结果。他表示,Anthropic将扩大METR和Redwood Research等团体的访问权限;OpenAI首席执行官萨姆·奥尔特曼表示,该公司也将采取类似做法。评估机构对这一提议表示欢迎,但指出访问范围仍存在未解决的问题,包括能否访问中间训练检查点、训练后环境、员工访谈

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,577

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending