Ricercatori hanno usato Claude di Anthropic per violare OpenAI
techcrunch ·
Un team di sicurezza di tre persone di Hacktron AI ha utilizzato Claude di Anthropic durante un programma di bug bounty di OpenAI per concatenare due vulnerabilità critiche e accedere a più account ChatGPT di dipendenti di OpenAI. OpenAI ha assegnato a Hacktron 6.500 dollari e ha dichiarato di aver risolto i problemi, mentre Discourse ha rilasciato separatamente una correzione il 27 luglio. I ricercatori hanno individuato il loro punto d’ingresso iniziale il 25 luglio in Discourse, il software alla base del forum della community di OpenAI, caricando un’immagine HEIF o HEIC appositamente elaborata. Durante la conversione dell’immagine, un bug di memoria nella libreria libheif ha consentito all’immagine di prendere il controllo del server, anche se a quanto riferito il bug era stato corretto mesi prima, ma non aveva ricevuto una designazione CVE ufficiale. Dopo essere entrato nel server Discourse, il team ha sfruttato un’altra vulnerabilità per prendere il controllo di account ChatGPT e Codex, incluso l’account di un dipendente di OpenAI collegato all’organizzazione GitHub dell’azienda. Claude Opus 4.8 inizialmente non è riuscito a produrre un exploit funzionante, ma Opus 5 ci è riuscito entro poche ore dal suo rilascio. L’incidente evidenzia la crescente capacità degli strumenti di IA ampiamente disponibili di scoprire e sfruttare le vulnerabilità, riducendo al contempo le competenze specialistiche necessarie per i cyberattacchi.
techcrunch