Le ministère de l'Intérieur britannique pourrait faire l'objet d'une enquête sur l'utilisation des outils OpenAI
wired ·
Un organe de contrôle du gouvernement britannique envisage d'enquêter sur l'utilisation par le Home Office d'outils d'intelligence artificielle générative propulsés par OpenAI pour traiter les demandes d'asile. L'inspecteur en chef indépendant des frontières et de l'immigration a demandé des informations au groupe Open Rights Group concernant ces technologies, dans un contexte de préoccupations liées à leur exactitude et à leur opacité. Des chercheurs ont constaté que les taux d'erreur de l'outil de résumé des dossiers d'asile sont nettement supérieurs aux estimations officielles, sans aucun contrôle qualité pour l'assistant de recherche politique. Bien que le Home Office maintienne que l'IA ne fait qu'assister les agents formés et ne prend pas les décisions finales, les critiques soulignent que les biais culturels et les hallucinations pourraient entraîner des résultats discriminatoires. Les experts juridiques mettent en garde contre le risque de violation des lois sur la protection des données si les demandeurs d'asile ne sont pas informés de l'utilisation de ces outils. Par conséquent, tant le groupe Open Rights Group que le Public Law Project ont soumis leurs conclusions au Bureau du commissaire à l'information. Ces organisations font également remarquer que plusieurs autres systèmes d'IA à haut risque sont utilisés au sein du gouvernement sans divulgation publique.
wired