Anthropic和OpenAI希望嵌入安全评估者。他们真的会独立吗? | AI Archive

Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)和OpenAI首席执行官山姆·奥特曼(Sam Altman)提出,在其AI公司内部嵌入独立的第三方评估机构,以监控安全性和对齐情况。该倡议将赋予研究人员前所未有的权限,使其能够访问训练数据、中间模型检查点以及内部日志,从而发现最终测试中可能遗漏的欺骗性行为。尽管该提案旨在通过允许评估机构在不受编辑控制的情况下发布调查结果来提高透明度,但专家对此类安排的实际独立性仍持怀

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,821

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending