Ministério do Interior do Reino Unido pode enfrentar investigação sobre uso de ferramentas da OpenAI
wired ·
Um órgão de fiscalização do governo britânico está considerando investigar o uso, pelo Ministério do Interior (Home Office), de ferramentas de IA generativa alimentadas pela OpenAI para processar pedidos de asilo. O Inspetor-Chefe Independente das Fronteiras e Imigração solicitou informações ao Grupo de Direitos Abertos (Open Rights Group) sobre essas tecnologias, em meio a preocupações quanto à sua precisão e sigilo. Pesquisadores constataram que as taxas de erro na ferramenta de Resumo de Casos de Asilo são significativamente superiores às estimativas oficiais, sem controle de qualidade para o assistente de busca de políticas. Embora o Ministério do Interior afirme que a IA apenas auxilia funcionários treinados e não toma decisões finais, críticos argumentam que vieses culturais e alucinações podem levar a resultados discriminatórios. Especialistas jurídicos alertam que não informar os requerentes de asilo sobre o uso dessas ferramentas pode violar leis de direitos de dados. Consequentemente, tanto o Grupo de Direitos Abertos quanto o Projeto de Direito Público apresentaram suas conclusões ao Escritório do Comissário de Informações. Esses grupos também destacam que vários outros sistemas de IA de alto risco estão sendo utilizados em todo o governo sem divulgação pública.
wired