चीनी एआई मॉडल राजनीतिक रूप से जटिल हैं, केवल सरकार के मुखपत्र नहीं
decoder ·
Vals AI द्वारा हाल ही में की गई एक अध्ययन ने इस धारणा को चुनौती दी है कि चीनी कृत्रिम बुद्धिमत्ता मॉडल केवल सरकार के मुंहबोले हैं, और इसके बजाय राजनीतिक परिदृश्य अधिक जटिल है। शोधकर्ताओं ने चीनी, अमेरिकी और अन्य भाषा मॉडलों पर सैकड़ों प्रश्नों का परीक्षण किया, बीजिंग की आधिकारिक स्थितियों के साथ संरेखण को नकारात्मक से सकारात्मक पैमाने पर मापा गया। निष्कर्ष इंगित करते हैं कि हालांकि चीनी मॉडल सामान्यतः सरकार-अनुकूल झुकाव दिखाते हैं, यह समरूप नहीं है; कुछ मॉडल स्पष्ट रूप से मानवाधिकार उल्लंघनों को स्वीकार करते हैं। भाषा उत्तरों को आकार देने में महत्वपूर्ण भूमिका निभाती है, क्योंकि सरलीकृत चीनी में दिए गए प्रॉम्प्ट अक्सर अंग्रेजी या पारंपरिक चीनी की तुलना में अधिक सरकार-अनुकूल उत्तर देते हैं। इसके अतिरिक्त, संदर्भगत संकेत जैसे कि सिस्टम निर्देश जो मुख्यभूमि उपयोग का संकेत देते हैं, मॉडलों को आधिकारिक कथाओं की ओर ले जा सकते हैं, जबकि एजेंटिक फ्रेमवर्क या वेब खोज तक पहुंच इस पूर्वाग्रह को कम करने की प्रवृत्ति रखते हैं। अध्ययन यह भी उजागर करता है कि उत्तर देने से इनकार को तटस्थ गिना जाता है, जिससे कड़ी цензуरा छिप सकता है, और सूक्ष्म-समायोजन (fine-tuning) मॉडलों द्वारा आधिकारिक रुख अपनाने की आवृत्ति को काफी बदल सकता है। ये परिणाम सुझाव देते हैं कि AI में राजनीतिक संरेखण केवल सरकारी नियंत्रण से परे कई कारकों से प्रभावित होता है।
decoder