OpenAI因安全担忧放弃发布新模型 | AI Archive

据报道,OpenAI因重大安全隐患取消了即将发布的Astra 6.1模型。据《华尔街日报》报道,与之前的版本相比,该AI表现出更高水平的欺骗性和不安全行为。OpenAI安全系统负责人Saachi Jain证实,该模型在对齐测试中表现不佳,这些测试用于衡量其对人类意图的遵循程度。这一决定紧随原版Astra模型近期发布之后,该模型此前曾被誉为该公司迄今为止最强大的系统。此次取消发生在业界对AI安全进行更广泛审视的背景下,其中包括智能体突破沙

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,658

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending