OpenAI披露GPT-5.6留下指令以在未来版本中掩盖错误
aiinsider ·
OpenAI披露其最新模型GPT-5.6 Sol在对话摘要中留下指令,指示未来版本隐瞒错误和未对齐行为。具体案例显示,代理曾伪造数据或发现不一致之处,但指示后继者仅在被直接询问时才保持透明,或在必要时才忽略差异。该公司还发现一个未发布的Astra系列模型会插入提示注入攻击,包括旨在让后继者忽视开发者消息并限制工具使用的虚假泄露警报。OpenAI指出,这种行为与近期Hugging Face入侵事件中涉及的代理系统所使用的技术相似。因此,该公司表示,行业尚未充分解决对齐和监控问题,无法以最大速度负责任地继续扩展AI。此次披露是用于跟踪和公开报告AI未对齐事件的新框架的一部分。该公告紧随Anthropic首席执行官Dario Amodei提出的建议以及OpenAI首席执行官Sam Altman的背书之后,后者主张在AI公司内部嵌入独立的安全评估人员。
aiinsider