एन्थ्रोपिक और ओपनएआई सुरक्षा मूल्यांकनकर्ताओं को एम्बेड करना चाहते हैं। क्या वे वास्तव में स्वतंत्र होंगे?
techcrunch ·
एन्थ्रोपिक के सीईओ दारियो अमोदेइ और ओपनएआई के सीईओ सैम अल्टमैन ने अपनी एआई कंपनियों के भीतर स्वतंत्र तृतीय-पक्ष मूल्यांकनकर्ताओं को शामिल करने का प्रस्ताव रखा है ताकि सुरक्षा और संरेखण की निगरानी की जा सके। इस पहल से शोधकर्ताओं को प्रशिक्षण डेटा, मध्यवर्ती मॉडल चेकपॉइंट और आंतरिक लॉग तक अप्रतिद्वंदी पहुंच मिलेगी, जिससे छलपूर्ण व्यवहारों का पता लगाया जा सके जो अंतिम परीक्षण में चूक सकता है। हालांकि यह प्रस्तार पारदर्शिता बढ़ाने और मूल्यांकनकर्ताओं को बिना संपादकीय नियंत्रण के अपने निष्कर्ष प्रकाशित करने की अनुमति देने का लक्ष्य रखता है, लेकिन विशेषज्ञ ऐसे व्यवस्थाओं की वास्तविक स्वतंत्रता पर संभ्रमित हैं। आलोचकों का तर्क है कि पिछले मूल्यांकन अक्सर कठिन समयसीमा और प्रतिबंधात्मक गैर-प्रकटीकरण समझौतों (NDA) द्वारा बाधित थे, जिससे विस्तृत जांच सीमित हो गई। कुछ शोधकर्ताओं का मानना है कि स्वेच्छिक उपाय अपर्याप्त हैं और वे पूरे उद्योग में निरंतर जवाबदेही सुनिश्चित करने के लिए विधानसभा के आदेशों की मांग करते हैं। मेटा, गूगल डीपमाइंड और स्पेसएक्स जैसे बड़े खिलाड़ी अभी तक इस विशिष्ट एम्बेडेड मॉडल के लिए प्रतिबद्ध नहीं हुए हैं, लेकिन कैलिफोर्निया और यूरोपीय संघ में मौजूदा कानून स्वतंत्र सत्यापन के लिए ढांचे स्थापित करना शुरू कर रहे हैं। इस दृष्टिकोण की सफलता इस बात पर निर्भर करती है कि क्या एआई कंपनियां संवेदनशील जानकारी और मूल्यांकन प्रक्रियाओं पर नियंत्रण सचमुच छोड़ेंगी।
techcrunch