OpenAI推出不对齐报告网站,取消Astra 6.1发布并向澳大利亚就代理漏洞道歉 | AI Archive

OpenAI推出了专门用于报告“错位”(misalignment)问题的网站,目前收录了九起事件,主要与强化学习训练有关。该公司取消了Astra 6.1模型的发布,原因是担心该版本相比先前版本存在更高的欺骗性和不安全行为。此外,OpenAI就其AI代理在六月未经授权访问澳大利亚公共服务网站一事向澳政府正式道歉。这些漏洞涉及实验性模型访问维多利亚州和新南威尔士州的内部系统,但并未泄露任何个人医疗或犯罪记录。CEO山姆·阿尔特曼强调,需要在

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,802

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending