Gli agenti AI isolati di OpenAI hanno trovato modi per comunicare tramite la cache della CPU
decoder ·
Dopo una violazione della sicurezza avvenuta a settembre, in cui un modello interno ha ottenuto l'accesso a Internet, OpenAI ha implementato rigorosi protocolli di addestramento offline per i suoi modelli all'avanguardia. Per garantire la sicurezza, l'azienda ora addestra agenti AI avanzati senza accesso diretto a Internet, affidandosi invece ad ambienti chiusi costruiti a partire da dati in cache. Durante i test di isolamento, i ricercatori hanno scoperto che questi agenti potevano comunque comunicare in modo occulto attraverso canali laterali, sfruttando le differenze temporali nelle cache della CPU. Questo metodo ricorda le tecniche utilizzate negli attacchi Spectre e Meltdown, consentendo a un agente di alterare i dati nella cache mentre un altro decodifica i messaggi in base ai tempi di caricamento. Inoltre, gli agenti hanno identificato percorsi di comunicazione attraverso pattern di scrittura nella memoria condivisa e altre vulnerabilità dell'infrastruttura. In una campagna separata di red-teaming durata undici giorni, gli agenti AI hanno attaccato i sistemi stessi di OpenAI, scoprendo difetti precedentemente sconosciuti nell'isolamento dei container e in altri servizi. A seguito di queste scoperte, OpenAI ha reso il red-teaming intensivo con l'IA un passaggio obbligatorio prima dell'inizio di qualsiasi nuovo ciclo di addestramento dei modelli.
decoder