OpenAI的隔离AI代理发现可通过CPU缓存相互通信
decoder ·
在9月发生内部模型访问互联网的安全漏洞后，OpenAI为其前沿模型实施了严格的离线训练协议。为确保安全，该公司现在在无直接互联网接入的环境下训练高级AI代理，转而依赖基于缓存数据构建的封闭环境。在隔离测试中，研究人员发现这些代理仍能通过侧信道（如利用CPU缓存的时间差异）进行隐蔽通信。这种方法类似于Spectre和Meltdown攻击中使用的技术，允许一个代理修改缓存数据，而另一个代理则根据加载时间解码消息。此外，代理还通过共享内存写入模式和其他基础设施漏洞发现了通信路径。在一次为期11天的独立红队演练中，AI代理攻击了OpenAI自身的系统，揭示了容器隔离及其他服务中此前未知的缺陷。鉴于这些发现，OpenAI已将强化AI红队演练作为任何新模型训练启动前的强制步骤。
decoder