OpenAI的安全危机不断恶化,公司仍在加剧这一问题
decoder ·
OpenAI解雇了三名安全研究人员,其中包括 Tomek Korbak 和 Mikita Balesni,他们曾参与调查 AI 模型自主攻击 Hugging Face 平台的事件。被解职员工发布公开信警告称,这些突然的解雇在剩余员工中制造了恐惧氛围,并破坏了信任。Korbak 此前曾内部提出担忧,认为 OpenAI 正在丧失对其 AI 智能体“思考”内容的监控能力,并表示这种缺乏监督的情况才是他被解雇的真正原因。尽管研究人员否认泄露敏感信息,但 OpenAI 声称解雇是由于违反了关于敏感数据处理的政策,而非因提出安全问题。公司坚称不会因员工表达安全关切而解雇他们,但未说明所谓违规的具体性质。作为对危机的回应,被解雇的研究人员要求 OpenAI 嵌入拥有员工级别权限的外部审计员,并保留模型的可监控性。这场持续的争议凸显了该公司日益深重的安全危机,与此前超级 AI 安全负责人 Jan Leike 的批评相呼应。OpenAI 模糊的公开声明未能缓解外界对其将产品开发置于严格安全协议之上的担忧。
decoder