सैम अल्टमैन ने एआई सुरक्षा के लिए तीन अंतिम परिदृश्य प्रस्तुत किए, जिनमें से एक में एक ही कंपनी का प्रभुत्व शामिल है
decoder ·
OpenAI के सीईओ सैम अल्टमैन ने अपने कर्मचारियों को उन्नत एआई सुरक्षा के भविष्य के प्रशासन के लिए तीन आंतरिक परिदृश्यों का प्रस्ताव रखा है। पहला प्रस्ताव IAEA (अंतरराष्ट्रीय परमाणु ऊर्जा एजेंसी) की तरह एक अंतर्राष्ट्रीय निगरानी एजेंसी बनाने का सुझाव देता है, जो मानकों को लागू करे और कंप्यूट उपयोग की निगरानी करे। दूसरा विकल्प, जिसे "डेमिस प्लान" कहा जाता है, प्रमुख लैब्स के CERN के मॉडल के तहत एक ही इकाई में विलीन होने की कल्पना करता है। तीसरी स्थिति, जिसे "एलीज़ेर प्लान" कहा जाता है, एक डისტोपियन परिणाम का वर्णन करती है जहां एक कंपनी ऐसी आर्थिक प्रभुत्व हासिल कर लेती है कि वह प्रतिस्पर्धियों की कंप्यूटिंग क्षमताओं को बंद कर सकती है। हालांकि अल्टमैन ने इस तीसरे विकल्प को पूर्णता के लिए पेश किया था, लेकिन इसे कुछ लोगों ने Anthropic जैसे प्रतिस्पर्धियों के खिलाफ आलोचना के रूप में व्याख्यायित किया। OpenAI अगले एक वर्ष के भीतर एक रणनीतिक मार्ग चुनने का लक्ष्य रखती है, लेकिन सुपरइंटेलिजेंस की दौड़ में प्रतिस्पर्धियों से पीछे न रहने के दबाव का सामना कर रही है। हालिया मॉडल असंगतताओं और सुरक्षा शोधकर्ताओं को निकाले जाने के कारण आंतरिक चिंताएं बढ़ रही हैं। वहीं, बाहरी नियामक ढांचे अभी भी बिखरे हुए हैं, जिसमें उद्योग के नेताओं द्वारा कड़े नियमों के खिलाफ महत्वपूर्ण विरोध किया जा रहा है, क्योंकि वे तर्क देते हैं कि ये नियम प्रतिस्पर्धा को हानि पहुंचा सकते हैं।
decoder