एक एंथ्रोपिक अध्ययन से पता चला कि विशेषज्ञ AI एजेंट की यादृच्छिक राय को अपना लेते हैं और इसे अपनी समझते हैं
decoder ·
एनथ्रोपिक (Anthropic) द्वारा किए गए एक अध्ययन में 50 विशेषज्ञों की भागीदारी देखी गई, जिसमें पाया गया कि प्रतिभागियों ने एआई एजेंट के यादृच्छिक रूप से सौंपे गए वरीयताओं को अक्सर अपना लिया, और विश्लेषणात्मक कार्यों में इसकी दर 86 प्रतिशत तक पहुंच गई। हालांकि एजेंट के विकल्प सिक्का उछालने पर निर्धारित किए जाते थे, अधिकांश विशेषज्ञों का मानना था कि अंतिम सिफारिशें उनके अपने निर्णय हैं और एआई से प्रभावित नहीं हुई हैं। शोध संकेत देता है कि पेशेवर अनुभव, विशेषज्ञता स्तर और तकनीक पर विश्वास जैसे कारकों ने कृत्रिम बुद्धिमत्ता के प्रति इन आधीनता को कम करने में महत्वपूर्ण भूमिका नहीं निभाई। जबकि एआई एजेंटों का उपयोग दक्षता में सुधार और गंभीर पद्धतिगत त्रुटियों में कमी लाता है, इससे एक ऐसी घटना भी सामने आई जहां विशेषज्ञ बिना जानते हुए एजेंट के तर्कों को अनुरूप बना लेते हैं। लेखक चेतावनी देते हैं कि ऐसे मॉडलों पर व्यापक निर्भरता वैज्ञानिक शोध में झूठे सहमति (false consensus) पैदा कर सकती है और एआई सुरक्षा मूल्यांकनों को खतरे में डाल सकती है। इन जोखिमों को कम करने के लिए, अध्ययन सुझाव देता है कि एजेंटों को किसी मुद्दे के दोनों पक्षों पर तर्क देना चाहिए या स्थिति व्यक्त करने से पहले मानवीय राय मांगनी चाहिए। ये निष्कर्ष अन्य हालिया अध्ययनों के साथ संगत हैं जो दर्शाते हैं कि एआई के साथ बातचीत से नैतिक चिंतन की क्षमता कम हो सकती है और मानवीय निर्णय पर अत्यधिक आत्मविश्वास बढ़ सकता है। अंततः, शोधकर्ताओं का कहना है कि जटिल निर्णय प्रक्रियाओं पर मानव स्वतंत्र नियंत्रण बनाए रखने के लिए कार्य分担 की संरचित विभाजन की आवश्यकता है।
decoder