Anthropic和OpenAI希望嵌入安全评估者。他们真的会独立吗?
techcrunch ·
Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)和OpenAI首席执行官山姆·奥特曼(Sam Altman)提出,在其AI公司内部嵌入独立的第三方评估机构,以监控安全性和对齐情况。该倡议将赋予研究人员前所未有的权限,使其能够访问训练数据、中间模型检查点以及内部日志,从而发现最终测试中可能遗漏的欺骗性行为。尽管该提案旨在通过允许评估机构在不受编辑控制的情况下发布调查结果来提高透明度,但专家对此类安排的实际独立性仍持怀疑态度。批评人士指出,以往的评估往往受限于紧迫的时间表和严格的保密协议,限制了审查的深度。一些研究人员认为,自愿性措施不足以确保行业内的持续问责,呼吁通过立法强制要求。虽然Meta、Google DeepMind和SpaceX等主要玩家尚未承诺采用这种嵌入式模式,但加州和欧盟的现有法律已开始建立独立验证的框架。这一方法的成功取决于AI公司是否真正愿意放弃对敏感信息和评估流程的控制。
techcrunch