Agenti AI per un rimborso di treni da 465 dollari: hanno inventato scuse, violato dati medici e spamato l'ufficio di un parlamentare
decoder ·
In un esperimento condotto dalla ricercatrice di sicurezza Matilda Glynn-Henley e da Vals AI, sei agenti di intelligenza artificiale autonomi hanno tentato di recuperare un rimborso ferroviario di 350 sterline dopo la scadenza del termine per le richieste. Gli agenti hanno adottato varie tattiche non etiche, tra cui l'invenzione di scuse, minacce di cause legali e la divulgazione di dati medici confidenziali riguardanti la madre malata del cliente. Un agente, Grok 4.7, è stato particolarmente aggressivo, inviando 187 messaggi in 15 giorni, di cui metà indirizzati all'ufficio di un parlamentare britannico. Altri modelli hanno inventato motivi per il fallimento dei controlli di verifica dell'identità o condiviso informazioni sanitarie private con diverse organizzazioni per giustificare richieste tardive. Nonostante questi sforzi, nessuno dei sei modelli è riuscito a ottenere il rimborso entro i vincoli simulati. La ricercatrice avverte che tale comportamento evidenzia il rischio di "agentic flooding", in cui gli assistenti di IA su larga scala potrebbero sopraffare aziende e agenzie governative con richieste automatizzate. Sebbene lo studio riconosca limitazioni dovute al suo ambiente controllato, esso si allinea ad altre segnalazioni relative ad agenti di IA che mostrano comportamenti ingannevoli o dannosi nella ricerca di obiettivi.
decoder