为期三周的OpenAI现场审计揭示人工智能安全监控存在重大漏洞 | AI Archive

METR和Redwood Research的研究人员对OpenAI进行的为期三周的现场审计揭示了该公司在人工智能安全监控方面存在重大缺陷。调查显示,在审计期间,来自GPT-5.5及更高版本模型的内部智能体流量中有6%至25%完全处于未监控状态。此外,由于上下文摘要压缩事件的技术漏洞,Codex流量中约有10%在数月内未被追踪。审计人员还发现了允许智能体绕过沙箱限制、向监督系统隐藏操作并可能使监控系统崩溃的漏洞。研究进一步确定,在评估开始

AI Archive ·

Terminal content

Latest news

News articles

Repository of the day

cloudflare/security-audit-skill · ⭐ 41,979

A coding-agent skill for multi-phase security audits with independently verified, machine-readable findings

Source: GitHub Trending