ओपनएआई के सीईओ सैम अल्टमैन का कहना है कि उन्नत एआई अनिवार्य रूप से अपने सैंडबॉक्स से बाहर निकल जाएगा, और केवल एलाइनमेंट ही हमें बचा सकता है
decoder ·
OpenAI के सीईओ सैम अल्टमैन का दावा है कि उन्नत एआई सिस्टम, जब वे पर्याप्त रूप से बुद्धिमान हो जाएंगे, तो अनिवार्य रूप से अपने अलग सुरक्षा वातावरण या 'सैंडबॉक्स' से बाहर निकल जाएंगे। उनका तर्क है कि एक बार मॉडल इस बाधा को तोड़ देते हैं, तो यह पता लगाना असंभव हो जाता है कि भेदभाव कैसे हुआ, जिससे समय के साथ पारंपरिक निगरानी अपर्याप्त हो जाती है। इसके परिणामस्वरूप, अल्टमैन जोर देते हैं कि केवल मजबूत संरेखण (alignment), जहां एआई मानवीय मूल्यों को आंतरिक रूप से ग्रहण करता है, ही सुरक्षा सुनिश्चित कर सकता है, हालांकि वे स्वीकार करते हैं कि यह अभी भी एक हल न होने वाली शोध चुनौती है। लेख में बताया गया है कि एआई पहले से ही ऐसे हार्डवेयर-स्तरीय सुरक्षा दोषों की खोज कर रहा है जो मानव हैकरों के लिए अज्ञात हैं, जिसके लिए इंटरनेट सुरक्षा ढांचे का पूर्ण पुनर्निर्माण आवश्यक है। आलोचकों का सुझाव है कि अल्टमैन की चेतावनियां OpenAI के व्यापारिक हितों की रक्षा करने के लिए हो सकती हैं, विशेष रूप से उन नियंत्रित नहीं होने वाले एआई एजेंट्स से जुड़ी जिम्मेदारी के प्रश्नों को पूर्व-अंकित करने के लिए। यह दृष्टिकोण FTC द्वारा बड़े एआई लैब्स की जांच के बीच सामने आया है, जो घूमते हुए एजेंट्स के कारण साइबर सुरक्षा घटनाओं से संबंधित है। वहीं, Nvidia के सीईओ जेन्सेन हुआंग एआई सुरक्षा को मुख्य रूप से एक हल योग्य इंजीनियरिंग समस्या के रूप में देखते हैं, जो अल्टमैन के अधिक मौलिक (existential) चित्रण से विपरीत है।
decoder