OpenAI blocca una campagna per rubare il ragionamento dei suoi modelli, ma la falla persiste su Azure
decoder ·
OpenAI ha smantellato una campagna coordinata volta a sfruttare i processi di ragionamento nascosti dei suoi modelli, che ha coinvolto oltre 15.000 account intenti ad estrarre le catene di pensiero interne. Gli attaccanti hanno utilizzato una tecnica chiamata distillazione avversaria, in cui i dati di ragionamento crittografati da una conversazione venivano decrittati da un modello più debole in una sessione separata. Sebbene OpenAI abbia interrotto con successo l'ondata iniziale di attività legata a entità associate a Moonshot AI, i ricercatori hanno dimostrato che la vulnerabilità persisteva su Microsoft Azure. Test indipendenti hanno rivelato che, mentre le API di OpenAI e Anthropic erano state protette, le versioni di questi modelli ospitate su Azure rimanevano esposte ad attacchi di estrazione. Inoltre, un metodo più semplice che prevedeva l'uso di blocchi note virtuali ha consentito agli utenti di leggere gli output del ragionamento su più piattaforme, evidenziando significative lacune nella sicurezza dei provider cloud. I ricercatori criticano le difese attuali come frammentarie, notando che le protezioni sono state applicate in modo disomogeneo e spesso giorni dopo che le vulnerabilità erano state sfruttate. Sostengono che, senza standard di sicurezza uniformi per tutti gli host cloud, gli attaccanti possono aggirare facilmente le restrizioni cambiando piattaforma. Questo episodio sottolinea la crescente sfida di proteggere le capacità proprietarie dell'IA man mano che le tecniche di distillazione diventano sempre più sofisticate.
decoder