Anthropic ने IPO फाइल में चेतावनी दी कि यह शीघ्र ही पुनरावर्ती स्वयं सुधार सीमा तक पहुंच सकता है
aiinsider ·
आइपीओ के लिए अपनी संशोधित S-1 फाइलिंग में, एंट्रोपिक ने चेतावनी दी है कि यह अपने एआई मॉडल्स में पुनरावृत्त स्वयं-सुधार (recursive self-improvement) की सीमा को जल्द ही पार कर सकता है। इस मील के पत्थर का संदर्भ उस बिंदु से है जहां कृत्रिम बुद्धिमत्ता स्वयं को प्रशिक्षित करने में अत्यधिक प्रभावी हो जाती है, जिससे क्षमताओं में नाटकीय तेजी आ सकती है। कंपनी स्वीकार करती है कि जबकि इस तकनीक में उत्पादकता और वैज्ञानिक खोज के लिए वादा है, यह एआई को अधिक सक्षम एआई सिस्टम बनाने की अनुमति देकर महत्वपूर्ण सुरक्षा जोखिम भी पैदा करती है। नए जोखिम disclosures से पता चलता है कि मॉडल की क्षमताएं एंट्रोपिक द्वारा सुरक्षा, संरेखण और सुरक्षा पर काम करने की गति को पीछे छोड़ सकती हैं, और कंपनी ने नोट किया है कि इसने ऐसे क्षमता वृद्धि को पहले पहचानने में चूक की है जब वे घटित हो चुके होते हैं। इन चेतावनियों के बावजूद, एंट्रोपिक ने जोर दिया कि कोई वर्तमान मॉडल इस सीमा को पार नहीं करता है और वह मानव निगरानी के बिना क्लॉड को भविष्य के फ्रंटियर मॉडल्स को स्वतंत्र रूप से विकसित होने नहीं देगी। कंपनी वर्तमान में जिम्मेदार स्केलिंग पॉलिसी में अपडेट पर विचार कर रही है ताकि सुनिश्चित किया जा सके कि महत्वपूर्ण विकास चरणों पर मानव नियंत्रण बना रहे। आलोचकों के लिए मानव नियंत्रण की संभावित हानि एक बड़ी चिंता है, जबकि समर्थक इसे उन्नत तकनीकी प्रगति की ओर एक प्रमुख कदम देखते हैं। संदेहवादी बताते हैं कि S-1 दस्तावेज में ऐसे बयान नियामक disclosure और मार्केटिंग रणनीति दोनों के रूप में कार्य करते हैं।
aiinsider