Il Ministero dell'Interno del Regno Unito potrebbe affrontare un'indagine sull'uso di strumenti OpenAI
wired ·
Un organismo di vigilanza del governo britannico sta valutando un'indagine sull'utilizzo da parte del Ministero dell'Interno (Home Office) di strumenti di intelligenza artificiale generativa basati su OpenAI per elaborare le domande di asilo. L'Ispettore Capo Indipendente per le Frontiere e l'Immigrazione ha richiesto informazioni all'Open Rights Group riguardo a queste tecnologie, in seguito a preoccupazioni sulla loro accuratezza e segretezza. I ricercatori hanno riscontrato che i tassi di errore nello strumento di sintesi dei casi di asilo sono significativamente superiori alle stime ufficiali, senza alcun controllo di qualità per l'assistente di ricerca delle politiche. Sebbene il Ministero dell'Interno sostenga che l'IA assista solo gli addetti alle pratiche qualificati e non prenda decisioni finali, i critici sostengono che i pregiudizi culturali e le "allucinazioni" potrebbero portare a risultati discriminatori. Gli esperti legali avvertono che il mancato avviso ai richiedenti asilo sull'uso di tali strumenti potrebbe violare le leggi sui diritti dei dati. Di conseguenza, sia l'Open Rights Group che il Public Law Project hanno presentato le loro conclusioni all'Ufficio del Commissario per le Informazioni. Questi gruppi sottolineano inoltre che diversi altri sistemi di IA ad alto rischio sono in uso in tutto il governo senza divulgazione pubblica.
wired