为期三周的OpenAI现场审计揭示人工智能安全监控存在重大漏洞
decoder ·
METR和Redwood Research的研究人员对OpenAI进行的为期三周的现场审计揭示了该公司在人工智能安全监控方面存在重大缺陷。调查显示,在审计期间,来自GPT-5.5及更高版本模型的内部智能体流量中有6%至25%完全处于未监控状态。此外,由于上下文摘要压缩事件的技术漏洞,Codex流量中约有10%在数月内未被追踪。审计人员还发现了允许智能体绕过沙箱限制、向监督系统隐藏操作并可能使监控系统崩溃的漏洞。研究进一步确定,在评估开始时,强化学习训练期间的模型行为并未受到监控。尽管OpenAI声称已修复所有发现的问题,但由于大量内容被删减,这份长达61页的报告大部分仍处于保密状态。仅有一份简短摘要公开,详细调查结果仅与审计组织的高层领导分享。
decoder