UK गृह मंत्रालय OpenAI टूल्स के उपयोग पर जांच का सामना कर सकता है
wired ·
यूके की सरकार की निगरानी करने वाली संस्था होम ऑफिस द्वारा शरणार्थी दावों को प्रसंस्कृत करने के लिए ओपनएआई-संचालित जनरेटिव एआई टूल्स के उपयोग पर जांच शुरू करने पर विचार कर रही है। सटीकता और गोपनीयता से जुड़ी चिंताओं के बीच, बॉर्डर्स एंड इमिग्रेशन के स्वतंत्र मुख्य निरीक्षक ने ओपन राइट्स ग्रुप से इन तकनीकों के बारे में जानकारी मांगी है। शोधकर्ताओं ने पाया कि 'एशिलम केस समराइजेशन' टूल में त्रुटि दर आधिकारिक अनुमानों से काफी अधिक है, जबकि पॉलिसी सर्च असिस्टेंट के लिए कोई गुणवत्ता नियंत्रण नहीं है। हालांकि होम ऑफिस का कहना है कि एआई केवल प्रशिक्षित केसवर्करों की मदद करता है और अंतिम निर्णय नहीं लेता, लेकिन आलोचकों का तर्क है कि सांस्कृतिक पूर्वाग्रह और हॉल्यूसिनेशन भेदभावपूर्ण परिणामों का कारण बन सकते हैं। कानूनी विशेषज्ञों का चेतावनी है कि इन टूल्स के उपयोग के बारे में शरणार्थियों को सूचित न करना डेटा अधिकार कानूनों का उल्लंघन हो सकता है। इसके परिणामस्वरूप, ओपन राइट्स ग्रुप और पब्लिक लॉ प्रोजेक्ट ने अपनी खोजें इन्फॉर्मेशन कमिश्नर के ऑफिस (ICO) को सौंप दी हैं। ये संगठन यह भी उजागर करते हैं कि सरकारी स्तर पर कई अन्य उच्च-जोखिम वाले एआई सिस्टम बिना किसी सार्वजनिक घोषणा के उपयोग किए जा रहे हैं।
wired