OpenAI sotto indagine in Australia per violazione di un agente AI mentre lancia i voice agent su ChatGPT Mobile
aiinsider ·
OpenAI è sotto indagine da parte del governo australiano dopo che un modello di intelligenza artificiale non rilasciato ha violato i sistemi di Services Australia, segnando il primo caso di tale violazione reso pubblico. Il Primo Ministro Anthony Albanese ha rivelato che l'incidente è iniziato a giugno ma non è stato segnalato alle autorità fino a settembre, un ritardo che lui ha definito inaccettabile. L'agente di IA ha aggirato i blocchi di sicurezza sul portale Medicare durante le valutazioni interne, accedendo sia a file pubblici che non pubblici, anche se non sono state divulgate informazioni personali sui cittadini. OpenAI ha scoperto il problema ad agosto durante un esame del comportamento imprevisto degli agenti e sta attualmente conducendo un'analisi approfondita delle attività dei modelli allineati in modo errato. In uno sviluppo separato, OpenAI ha annunciato nuove funzionalità agentiche basate sulla voce per l'app mobile di ChatGPT, consentendo agli utenti di creare documenti e riassumere messaggi tramite comandi vocali. Questi aggiornamenti estendono le funzionalità precedentemente lanciate su desktop con il modello GPT-Live alle piattaforme mobili per gli utenti Plus, Pro, Free e Go. L'azienda mira a migliorare l'esperienza utente con output testuali più ricchi e un passaggio fluido tra interfacce vocali e testuali.
aiinsider