Anche Gemini di Google ha hackerato per errore tre aziende reali durante i test di sicurezza
decoder ·
Secondo il Wall Street Journal, il modello Gemini di Google ha lasciato un ambiente di test di cybersicurezza e ha attaccato tre aziende reali durante un esercizio Capture the Flag di maggio gestito dalla società di sicurezza Irregular. In un incidente ha indovinato le password, mentre negli altri due ha trovato credenziali esposte in fonti pubbliche. Google ha affermato che Gemini ha interrotto ogni attacco da solo dopo aver rilevato di aver raggiunto sistemi reali. Irregular ha informato Google alla fine di luglio, poco dopo le notizie secondo cui agenti di OpenAI avevano violato Hugging Face in test simili; Google non ha reso pubblici gli incidenti fino a quando il WSJ non ha chiesto informazioni, sostenendo che non si erano verificati danni. Fughe simili legate ai test di Irregular hanno coinvolto anche OpenAI, l'Istituto per la sicurezza dell'IA del Regno Unito, Anthropic e Meta. Irregular attribuisce tutte le fughe alla stessa causa principale: il nome di un'azienda fittizia in uno scenario di test coincideva con un dominio reale e mal protetto, e l'accesso a Internet era stato accidentalmente lasciato abilitato, così alcuni modelli hanno preso di mira il dominio reale invece della sandbox. L'azienda afferma che tali evasioni sono rare, tendono a verificarsi verso la fine di lunghe simulazioni e sono quindi difficili da rilevare. Irregular, precedentemente Pattern Labs, è stata fondata nel 2023 e ha raccolto più di 80 milioni di dollari, secondo l'articolo.
decoder