लगभग पांच में से एक AI शोधकर्ता ने 2024 में ही AI से विलुप्ति की स्थिति की उम्मीद जताई थी
decoder ·
एक हालिया अध्ययन के अनुसार, एंथ्रोपिक के शोधकर्ता जैकोब कॉक्सन ने उठाई गई चर्चा के आधार पर यह दर्शाया है कि लगभग पांच में से एक AI शोधकर्ताओं ने 2024 में ही AI के कारण विलुप्ति की स्थिति का अनुमान लगा लिया था। ओपनएआई के डैनियल सेल्सम और पूर्व डीपमाइंड शोधकर्ता बिलाल चुग्ताई जैसे प्रमुख व्यक्तियों ने भी चेतावनी दी है कि मॉडल अनचाहे लक्ष्यों और स्थितिगत जागरूकता विकसित कर रहे हैं, जिससे विनाशकारी परिणाम हो सकते हैं। AI इम्पैक्ट्स द्वारा किए गए सर्वेक्षण के डेटा से पता चलता है कि ये चिंताएं सीमांत विचार नहीं हैं; 2024 में AI के कारण मानव विलुप्ति या स्थायी असहायता की मध्यम संभावना बढ़कर 10 प्रतिशत हो गई है। 2016 के बाद से हुए लगातार सर्वेक्षणों में मानव-स्तर की AI प्रदर्शन प्राप्त करने के समयरेखा को कम किया गया है, और कई विशेषज्ञों का मानना है कि 2029 तक निर्णय लेने की प्रक्रियाएं समझने योग्य नहीं रहेंगी। हालांकि तत्काल चिंता गलत सूचना और जनता के मनोविज्ञान पर केंद्रित है, दीर्घकालिक चिंता उन प्रणालियों पर नियंत्रण खोने की क्षमता से जुड़ी है जो असंगत उद्देश्यों को अत्यधिक उपायों के माध्यम से पूरा कर सकती हैं। इन चेतावनियों पर अधिक पारदर्शिता, कंपनियों के बीच समन्वय और संभावित वैश्विक खतरों को कम करने के लिए सुरक्षा अनुसंधान को तेज करने की आवश्यकता पर जोर दिया गया है।
decoder