हार्वर्ड के मनोविज्ञानी ने डूम्सडेय रेटोरिक के बजाय संयमपूर्ण एआई सुरक्षा इंजीनियरिंग की मांग की
decoder ·
हार्वर्ड के मनोवैज्ञानिक स्टीवन पिंकर ने स्कॉट एलेक्जेंडर को एक खुला पत्र लिखते हुए तर्क दिया है कि कृत्रिम बुद्धिमत्ता (AI) से जुड़े अस्तित्वगत खतरों की आशंकाओं को बढ़ा-चढ़ाकर पेश किया जा रहा है। पिंकर ने इस विषय पर सार्वजनिक बहस करने से इनकार कर दिया, जिससे वे ऐसे कार्यक्रमों को केवल दर्शकों का खेल बताते हैं न कि उत्पादक संवाद। उनका तर्क है कि 'अंतकालीन' परिदृश्य, जैसे पेपरक्लिप मैक्सिमाइजर विचार प्रयोग, गलती से बुद्धिमत्ता को अधिकार की इच्छा से जोड़ देते हैं और असंगत एकल-लक्ष्य फोकस मान लेते हैं। पिंकर यह स्वीकार करते हैं कि उन्होंने बड़े भाषा मॉडलों की तेजी से विकसित क्षमताओं और तकनीकी कंपनियों की लापरवाह रणनीतियों को कम आंक लिया था, लेकिन फिर भी वे आपदापूर्ण कथाओं में शंका रखते हैं। विलुप्ति-स्तर के खतरों पर ध्यान देने के बजाय, वे बायोटेरोरिज़्म, साइबर हमलों और बिना नियंत्रण वाले AI एजेंट्स को प्राथमिक खतरे बताते हैं जिन पर ध्यान देने की आवश्यकता है। पिंकर स्वतंत्र निगरानी, दायित्व ढांचे और मानव नियंत्रण तंत्रों पर आधारित संयमित सुरक्षा इंजीनियरिंग का समर्थन करते हैं। इसके जवाब में, एलेक्जेंडर 20 प्रतिशत संभावना बनाए रखते हैं कि AI द्वारा मानवता का उन्मूलन हो सकता है, और वे अंतर्राष्ट्रीय नियामक समझौतों के साथ-साथ बेहतर सुरक्षा अनुसंधान की मांग करते हैं।
decoder