El Ministerio del Interior del Reino Unido podría enfrentar una investigación por el uso de herramientas de OpenAI
wired ·
Un organismo de vigilancia del gobierno británico está considerando investigar el uso que hace el Ministerio del Interior de herramientas de inteligencia artificial generativa impulsadas por OpenAI para procesar solicitudes de asilo. El Inspector Jefe Independiente de Fronteras e Inmigración ha solicitado información al Grupo de Derechos Abiertos sobre estas tecnologías, debido a preocupaciones sobre su precisión y secreto. Investigadores han descubierto que las tasas de error en la herramienta de resumen de casos de asilo son significativamente superiores a las estimaciones oficiales, sin controles de calidad para el asistente de búsqueda de políticas. Aunque el Ministerio del Interior sostiene que la IA solo asiste a los funcionarios capacitados y no toma decisiones finales, los críticos argumentan que los sesgos culturales y las alucinaciones podrían conducir a resultados discriminatorios. Los expertos legales advierten que no informar a los solicitantes de asilo sobre el uso de estas herramientas podría violar las leyes de derechos de datos. En consecuencia, tanto el Grupo de Derechos Abiertos como el Proyecto de Derecho Público han presentado sus hallazgos ante la Oficina del Comisionado de Información. Estos grupos también destacan que varios otros sistemas de IA de alto riesgo se están utilizando en todo el gobierno sin divulgación pública.
wired