英国英国内政部或因使用OpenAI工具面临调查
wired ·
英国政府监察机构正在考虑对英国内政部使用基于OpenAI的生成式人工智能工具处理庇护申请的行为展开调查。边境与移民独立首席监察员因担忧这些技术的准确性和保密性，已向开放权利组织（Open Rights Group）索取相关信息。研究人员发现，“庇护案例摘要”工具的出错率远高于官方估计，而政策搜索助手则缺乏质量控制。尽管内政部坚称人工智能仅协助经过培训的个案工作人员，并不做出最终决定，但批评者指出，文化偏见和“幻觉”可能导致歧视性结果。法律专家警告称，若未告知寻求庇护者这些工具的使用情况，可能违反数据权利法。因此，开放权利组织和公共法律项目已将其调查结果提交至信息专员办公室。这些团体还强调，政府内部还有其他多个高风险的人工智能系统在使用，但未向公众披露。
wired