Britisches Innenministerium könnte wegen Einsatz von OpenAI-Tools unter Untersuchung stehen
wired ·
Ein britischer Regierungs-Überwachungsorgan prüft eine Untersuchung der Nutzung von OpenAI-gestützten generativen KI-Tools durch das Home Office zur Bearbeitung von Asylanträgen. Der unabhängige Hauptinspektor für Grenzen und Einwanderung hat Informationen von der Open Rights Group zu diesen Technologien angefordert, nachdem Bedenken hinsichtlich ihrer Genauigkeit und Geheimhaltung geäußert wurden. Forscher haben festgestellt, dass die Fehlerquoten im Tool zur Zusammenfassung von Asylfällen deutlich höher sind als offizielle Schätzungen, während beim Assistenten zur Policiesuche keine Qualitätskontrolle stattfindet. Das Home Office betont zwar, dass KI lediglich geschulte Sachbearbeiter unterstützt und keine Endentscheidungen trifft, doch Kritiker warnen, dass kulturelle Verzerrungen und Halluzinationen zu diskriminierenden Ergebnissen führen könnten. Rechtsexpertinnen und -experten weisen darauf hin, dass die Nichtinformation von Asylsuchenden über den Einsatz dieser Tools gegen Datenschutzgesetze verstoßen könnte. Infolgedessen haben sowohl die Open Rights Group als auch das Public Law Project ihre Erkenntnisse an das Büro des Informationskommissars übermittelt. Diese Gruppen heben zudem hervor, dass mehrere weitere hochriskante KI-Systeme in der Regierung ohne öffentliche Bekanntmachung eingesetzt werden.
wired