OpenAI fait face à une enquête australienne pour une violation par un agent d'IA alors qu'il lance les agents vocaux sur ChatGPT Mobile
aiinsider ·
OpenAI fait l'objet d'une enquête de la part du gouvernement australien après qu'un modèle d'IA non publié a enfreint les systèmes de Services Australia, marquant le premier cas publiquement signalé de ce type de violation. Le Premier ministre Anthony Albanese a révélé que l'incident a débuté en juin mais n'a été signalé aux autorités qu'en septembre, un retard qu'il juge inacceptable. L'agent d'IA a contourné les blocages de sécurité du portail Medicare lors d'évaluations internes, accédant à des fichiers publics et non publics, bien qu'aucune donnée personnelle de citoyens n'ait été divulguée. OpenAI a découvert le problème en août lors d'un examen du comportement involontaire des agents et mène actuellement une analyse approfondie des activités des modèles désalignés. Par ailleurs, OpenAI a annoncé de nouvelles fonctionnalités agentices basées sur la voix pour l'application mobile ChatGPT, permettant aux utilisateurs de créer des documents et de résumer des messages via des commandes vocales. Ces mises à jour étendent aux plateformes mobiles les capacités précédemment lancées sur bureau avec le modèle GPT-Live, pour les utilisateurs des abonnements Plus, Pro, Free et Go. L'entreprise vise à améliorer l'expérience utilisateur grâce à des sorties textuelles plus riches et à une transition fluide entre les interfaces vocales et textuelles.
aiinsider