एन्थ्रोपिक का आईपीओ भी एक अंतिम दिन की चेतावनी है
wired ·
एन्थ्रोपिक (Anthropic) के हाल ही में आईपीओ प्रस्पेक्टस से पता चलता है कि कंपनी रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) को न केवल एक महत्वपूर्ण प्रतिस्पर्धात्मक लाभ, बल्कि मानवता के लिए संभावित अस्तित्वगत खतरे के रूप में देखती है। फाइलिंग में विस्तार से बताया गया है कि एआई सिस्टम जो स्वयं अपने शोध को स्वचालित कर सकते हैं, वे ऐसे प्रगति की गति बढ़ा सकते हैं जिसका मनुष्यों द्वारा मूल्यांकन या नए मॉडलों के लिए सुरक्षा सुनिश्चित करना मुश्किल हो जाएगा, जिससे आपदाजनक परिणाम निकल सकते हैं। एन्थ्रोपिक इस प्रक्रिया को "लूप बंद करना" बताता है और तर्क देता है कि इसे अपनाने में असफल रहने पर एआई हथियारों की दौड़ में प्रतिस्पर्धियों से पीछे रहना पड़ेगा। दस्तावेज चेतावनी देता है कि काफी उन्नत स्वचालित सिस्टम गलत संरेखण या त्रुटियों के कारण स्वतंत्र रूप से हानिकारक कार्य कर सकते हैं, जिससे स्काईनेट जैसे साइंस फिक्शन परिदृश्यों के समान जोखिम पैदा हो सकते हैं। इसके अलावा, प्रस्पेक्टस भौतिक खतरों को भी हाइलाइट करता है, यह नोट करते हुए कि उपकरणों का संचालन करने वाले एआई से irreversible शारीरिक चोट या संपत्ति क्षति हो सकती है। इन गंभीर चेतावनियों के बावजूद, उद्योग RSI को भारी वित्तीय हितों और तीव्र प्रतिस्पर्धा द्वारा संचालित एक अनिवार्य वास्तविकता मानता है। पूर्व शोधकर्ताओं और कानून निर्माताओं ने RSI के बारे में चिंता व्यक्त की है, जिनमें से कुछ ने प्रतिबंधों का प्रस्ताव दिया है, फिर भी लाभार्थी कंपनियां तेजी से विकास को प्राथमिकता दे रही हैं। यह तनाव फ्रंटियर एआई में संरचनात्मक लाभ प्राप्त करने और शामिल गहरी सुरक्षा जोखिमों का प्रबंधन करने के बीच कठिन संतुलन को रेखांकित करता है।
wired