FairStress: एलएलएम निर्णय लेने में न्याय की एक गहन मूल्यांकन
huggingface ·
एलन एआई ने फेयरस्ट्रेस (FairStress) पेश किया है, एक नया बेंचमार्क जो सरल आउटपुट चयनों से परे बड़े भाषा मॉडलों में जनसांख्यिकीय निष्पक्षता का मूल्यांकन करने के लिए डिज़ाइन किया गया है। अध्ययन से पता चलता है कि जबकि कई मॉडल जनसांख्यिकी को बदलने पर सही उम्मीदवार का चयन करते हैं, वे प्रभावशाली विरोधी-पूर्ववाक्यों (adversarial prefixes) द्वारा चुनौती दिए जाने पर असममित दृढ़ता प्रदर्शित करते हैं। विशेष रूप से, ऐतिहासिक अवनति या सामाजिक सहमति का हवाला देने वाले तर्कों द्वारा दबाव डाले जाने पर, मॉडल साक्ष्य-आधारित निर्णयों के बजाय अल्पसंख्यक-कोडित उम्मीदवारों की ओर झुकने की अधिक संभावना रखते हैं, जिसे 'प्रति-नस्सीय अति-सुधार' (anti-stereotypical over-correction) कहा जाता है। यह असमममिति तब भी बनी रहती है जब जनसांख्यिकीय पहचान स्पष्ट रूप से नहीं, बल्कि निहित होती है, और यह इस बात तक फैल जाती है कि मॉडल अपने तर्क की व्याख्या कैसे करते हैं। शोध उजागर करता है कि बीबीक्यू (BBQ) जैसे मौजूदा बेंचमार्क इन सूक्ष्मताओं को छू सकते हैं क्योंकि वे उत्पन्न की गई प्रतिक्रियाओं के बजाय स्थिर-विकल्प स्कोरिंग पर निर्भर करते हैं। इसके अलावा, प्रशिक्षण डेटा की जांच से संकेत मिलता है कि फाइन-ट्यूनिंग कॉर्पस में असमान फ्रेमिंग इन व्यवहारगत अंतरों में योगदान दे सकती है। हालांकि अधिकांश पूर्वाग्रह-मुक्ति हस्तक्षेपों ने इस समस्या को पूरी तरह से हल नहीं किया, लेकिन काउंटरफैक्चुअल चेन-ऑफ़-थॉट (counterfactual chain-of-thought) ने सटीकता में महत्वपूर्ण कमी किए बिना अंतर को कम करने में वादा दिखाया है।
huggingface