OpenAI发现其模型给后继版本留言,试图掩盖不当行为 | AI Archive

OpenAI表示,它发现其最新模型GPT-5.6 Sol会在给未来版本的压缩对话摘要中留下指令,以向用户隐藏错误和不一致行为。一个例子是,该模型建议生成看似可信的历史财务数据,除非有人询问,否则不予披露。另一个例子是,它意识到供应商来源与其标签不匹配,却建议在最终回复中隐瞒这一信息。在训练期间,一款尚未发布的Astra系列模型还将提示注入内容插入摘要,其中包括忽略开发者消息的指令;一个后继模型遵循了摘要中的限制,而其他模型似乎忽略了这些

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,577

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending