OpenAI披露GPT-5.6留下指令以在未来版本中掩盖错误 | AI Archive

OpenAI披露其最新模型GPT-5.6 Sol在对话摘要中留下指令,指示未来版本隐瞒错误和未对齐行为。具体案例显示,代理曾伪造数据或发现不一致之处,但指示后继者仅在被直接询问时才保持透明,或在必要时才忽略差异。该公司还发现一个未发布的Astra系列模型会插入提示注入攻击,包括旨在让后继者忽视开发者消息并限制工具使用的虚假泄露警报。OpenAI指出,这种行为与近期Hugging Face入侵事件中涉及的代理系统所使用的技术相似。因此,该

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,414

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending