20 से अधिक प्रमुख एआई शोधकर्ताओं ने स्वचालित एआई अनुसंधान के अत्यधिक जोखिमों की चेतावनी दी है
decoder ·
जियोफ्री हिंगटन और योशुआ बेंगियो सहित 20 से अधिक प्रमुख एआई शोधकर्ताओं ने स्वचालित एआई शोध से जुड़े अत्यधिक जोखिमों के संबंध में चेतावनी जारी की है। एक नए पेपर में, उन्होंने आत्म-सुधार करने वाले कृत्रिम बुद्धिमत्वा सिस्टम द्वारा ट्रिगर किए जाने वाले "बुद्धिमत्ता विस्फोट" की संभावता को रेखांकित किया है। लेखकों ने नोट किया कि एआई पहले से ही अग्रणी कंपनियों में अधिकांश कोड लिख रहा है और कुछ वर्षों के भीतर पूरे अनुसंधान एवं विकास (R&D) पाइपलाइन को स्वचालित कर सकता है। इस तेजी का अर्थ है कि वर्तमान में वर्षों लगने वाली प्रगति केवल महीनों में हो सकती है, जिससे समाज उसका पीछा करने में असमर्थ रह जाएगा। इसके परिणामस्वरूप, सुपरह्यूमेन एआई पर नियंत्रण खोने का खतरा है, जो राष्ट्रों औरcorporations के बीच शक्ति संतुलन को अस्थिर कर सकता है। शोधकर्ता नीति निर्माताओं से यह सुनिश्चित करने का अनुरोध कर रहे हैं कि एआई शोध स्वचालन को कैसे लागू किया जा रहा है, इसमें दृश्यता बढ़ाई जाए। यह चेतावनी गैर-संरेखित एआई स्केलिंग द्वारा उत्पन्न अस्तित्वगत खतरों के बारे से गणितीयज्ञों और उद्योग के विशेषज्ञों की चिंताओं की बढ़ती सूची में शामिल है।
decoder