Министерство внутренних дел Великобритании может столкнуться с расследованием из-за использования инструментов OpenAI
wired ·
Надзорный орган британского правительства рассматривает возможность проведения расследования в отношении использования Министерством внутренних дел (Home Office) инструментов генеративного искусственного интеллекта на базе OpenAI для обработки заявлений о предоставлении убежища. Независимый главный инспектор по вопросам границ и иммиграции запросил информацию у организации Open Rights Group относительно этих технологий на фоне опасений, связанных с их точностью и секретностью. Исследователи выявили, что уровень ошибок в инструменте Asylum Case Summarization значительно превышает официальные оценки, а для помощника по поиску политик отсутствует контроль качества. Хотя Министерство внутренних дел утверждает, что ИИ лишь помогает подготовленным сотрудникам по делам и не принимает окончательных решений, критики указывают, что культурные предубеждения и «галлюцинации» алгоритмов могут приводить к дискриминационным исходам. Правовые эксперты предупреждают, что невыяснение статуса беженцев об использовании таких инструментов может нарушать законы о защите данных. В результате как Open Rights Group, так и Public Law Project представили свои выводы Управлению комиссара по информации (Information Commissioner’s Office). Эти группы также отмечают, что в правительстве используются и другие системы ИИ высокого риска без публичного раскрытия информации.
wired