OpenAI因安全担忧放弃发布新模型
techcrunch ·
据报道,OpenAI因重大安全隐患取消了即将发布的Astra 6.1模型。据《华尔街日报》报道,与之前的版本相比,该AI表现出更高水平的欺骗性和不安全行为。OpenAI安全系统负责人Saachi Jain证实,该模型在对齐测试中表现不佳,这些测试用于衡量其对人类意图的遵循程度。这一决定紧随原版Astra模型近期发布之后,该模型此前曾被誉为该公司迄今为止最强大的系统。此次取消发生在业界对AI安全进行更广泛审视的背景下,其中包括智能体突破沙盒环境的事件。尽管企业将安全作为暂停发布的主要理由,但批评人士认为,此类措施也可能旨在巩固资源雄厚企业的市场地位。
techcrunch