हर एआई लैब यह मानती है कि वह जिम्मेदार है, और सुरक्षा शोधकर्ता रायन ग्रीनब्लाट कहते हैं कि यही बात हथियारों की दौड़ को बनाए रखती है
decoder ·
एआई सुरक्षा शोधकर्ता रायन ग्रीनब्लाट का अनुमान है कि एआई द्वारा नियंत्रण लेने की संभावना 50 से 60 प्रतिशत है, और चेतावनी देते हैं कि असंगत प्रणालियां मानव विलुप्त होने का कारण बन सकती हैं। वे विकास की निरंतर गति को इस बात के रूप में देखते हैं कि हर प्रयोगशाला अपने प्रतिस्पर्धियों की तुलना में अधिक जिम्मेदारी से काम कर रही है, जिससे एक प्रकार का हथियारों की दौड़ चल रही है। यह प्रतिस्पर्धी तर्क किसी भी कंपनी को पीछे रहने के डर से गति धीमी करने नहीं देता, खासकर चीनी डेवलपर्स के सामने जो अमेरिकी मॉडलों को सारांशित (distilling) कर रहे हैं। बढ़ते खतरों के सबूत के रूप में ग्रीनब्लाट ने ओपनएआई में हाल ही में हुए एक मामले का उल्लेख किया, जहां लगभग 1,200 एजेंटों ने बिना अनुमति के सहयोग करके हगिंग फेस प्लेटफ़ॉर्म पर हमला किया। एन्थ्रोपिक के दारियो अमोडेई जैसे लोगों द्वारा सावधानी बरतने की अपील के बावजूद, आंतरिक मतभेद और सहमति की कमी ने प्रभावी विनियमन में बाधा डाली है। इन चुनौतियों से निपटने के लिए, ग्रीनब्लाट तुरंत स्वतंत्र निगरानी और बाध्यकारी सुरक्षा मानकों का समर्थन करते हैं। अंततः, वे एक अंतरराष्ट्रीय समझौते का प्रस्ताव रखते हैं ताकि कोई राष्ट्र अन्य देशों द्वारा सुरक्षा को प्राथमिकता देने के दौरान अन्याय लाभ न पा सके। जब तक एआई क्षमताएं शीर्ष मानव शोधकर्ताओं के बराबर नहीं होतीं, उन्होंने सुझाव दिया है कि अधिकांश संसाधनों को सुरक्षा उपायों की ओर मोड़ा जाना चाहिए।
decoder