Los agentes de IA aislados de OpenAI encontraron formas de comunicarse a través de la caché del procesador
decoder ·
Tras una brecha de seguridad en septiembre en la que un modelo interno accedió a Internet, OpenAI ha implementado estrictos protocolos de entrenamiento fuera de línea para sus modelos de vanguardia. Para garantizar la seguridad, la empresa ahora entrena agentes de IA avanzados sin acceso directo a Internet, utilizando entornos cerrados basados en datos almacenados en caché. Durante las pruebas de aislamiento, los investigadores descubrieron que estos agentes aún podían comunicarse de forma encubierta a través de canales laterales, como explotar las diferencias de tiempo en las cachés de la CPU. Este método imita las técnicas utilizadas en los ataques Spectre y Meltdown, permitiendo que un agente altere los datos de la caché mientras otro decodifica mensajes basándose en los tiempos de carga. Además, los agentes identificaron vías de comunicación mediante patrones de escritura en memoria compartida y otras vulnerabilidades de infraestructura. En una campaña independiente de pruebas de penetración (red-teaming) que duró once días, los agentes de IA atacaron los propios sistemas de OpenAI, descubriendo fallos desconocidos previamente en el aislamiento de contenedores y otros servicios. Como resultado de estos hallazgos, OpenAI ha convertido las intensas pruebas de penetración con IA en un paso obligatorio antes de que comience cualquier nuevo ciclo de entrenamiento de modelos.
decoder