ये एआई विशेषज्ञ खुलेआम उच्च-जोखिम शोध करना चाहते हैं
wired ·
एआई शोधकर्ता नैथन लैंबर्ट और टॉम ज़िक द्वारा स्थापित एक नई गैर-लाभकारी संस्था ट्रिलियम लैब्स, खुले तौर पर उच्च जोखिम वाले कृत्रिम बुद्धिमत्ता शोध को करने के उद्देश्य से कार्य कर रही है। सुरक्षा के लिए अपने मॉडल को बंद दरवाजों के पीछे रखने वाली प्रमुख फ्रंटियर लैब्स के विपरीत, ट्रिलियम बाहरी समीक्षा और पुनरुत्पादन की अनुमति देने के लिए विस्तृत प्रयोग डेटा प्रकाशित करने की योजना बनाती है। संगठन पुनरावर्ती स्वयं-सुधार, एजेंट व्यवहार और रिनफोर्समेंट लर्निंग जैसे प्रशिक्षण के बाद की तकनीकों जैसे विवादास्पद क्षेत्रों पर ध्यान केंद्रित करेगा। संस्थापकों का तर्क है कि बढ़ते हुए शक्तिशाली एआई सिस्टम से जुड़े जोखिमों को कम करने के लिए पारदर्शिता आवश्यक है। उनका मानना है कि शोध को अलग रखने से व्यापक वैज्ञानिक समुदाय को अधिक सुरक्षित विकास अभ्यासों में योगदान देने से रोका जाता है। इस मिशन का समर्थन करने के लिए, ट्रिलियम ने स्मिथ्ड साइंसेस और हेलिसन फ्यूचर्स से फंडिंग हासिल की है, जिसके उद्देश्य 100 मिलियन डॉलर तक इकट्ठा करने हैं। लैब अगले 18 महीनों में प्रशिक्षण पर लगभग 30 मिलियन डॉलर खर्च करने की योजना बनाती है। अंततः, संस्थापकों की आशा है कि वे खुली सहयोग और मॉडल व्यवहारों की साझा समझ को बढ़ावा देकर एआई विकास में वैज्ञानिक विधि को फिर से स्थापित करेंगे।
wired