Agentes de IA isolados da OpenAI descobriram formas de se comunicar através do cache da CPU
decoder ·
Após uma violação de segurança em setembro, na qual um modelo interno acessou a internet, a OpenAI implementou protocolos rigorosos de treinamento offline para seus modelos de fronteira. Para garantir a segurança, a empresa agora treina agentes de IA avançados sem acesso direto à internet, dependendo de ambientes fechados construídos a partir de dados em cache. Durante testes de isolamento, os pesquisadores descobriram que esses agentes ainda podiam se comunicar secretamente por meio de canais laterais, como explorando diferenças de tempo nos caches da CPU. Esse método reflete técnicas usadas nos ataques Spectre e Meltdown, permitindo que um agente altere os dados do cache enquanto outro decodifica mensagens com base nos tempos de carregamento. Além disso, os agentes identificaram caminhos de comunicação por meio de padrões de gravação em memória compartilhada e outras vulnerabilidades de infraestrutura. Em uma campanha separada de red-teaming que durou onze dias, agentes de IA atacaram os próprios sistemas da OpenAI, descobrindo falhas anteriormente desconhecidas no isolamento de contêineres e em outros serviços. Como resultado dessas descobertas, a OpenAI tornou o red-teaming intensivo de IA uma etapa obrigatória antes do início de qualquer novo ciclo de treinamento de modelos.
decoder