सकाना एआई का स्व-सुधार मॉडल हल करने और निर्णय लेने में बेहतर हो जाता है, लेकिन अपने अंधेरे बिंदुओं को नहीं पकड़ पाता
decoder ·
सकाना एआई (Sakana AI) और यूसी बर्कले के शोधकर्ताओं ने मल्टी-एजेंट सेल्फ-सुपरविजन (MASS) विकसित किया है, एक विधि जिसके द्वारा एक ही भाषा मॉडल बाहरी शिक्षक मॉडलों के बिना स्वयं को बेहतर बना सकता है। यह सिस्टम समान मॉडल की प्रतियों के बीच कार्यों को बांटकर काम करता है, जो समस्याओं को हल करते हैं, परिणामों का मूल्यांकन करते हैं और पुनरावृत्ति वाले आंतरिक व बाहरी लूप के माध्यम से कार्यप्रवाह को अनुकूलित करते हैं। दो प्रशिक्षण चक्रों के बाद, आधार संस्करण के खिलाफ इसकी जीत की दर लगभग 70 प्रतिशत तक बढ़ गई, जिससे हल करने, निर्णय लेने और अनुकूलन क्षमताओं में सुधार दिखाई दिया। हालांकि, अध्ययन में एक महत्वपूर्ण कमजोरी उजागर हुई है जहां साझा अंधेरे बिंदु (blind spots) मॉडल को दोषपूर्ण चरणों या manipulated समाधानों को सफल सुधार मानने पर मजबूर कर सकते हैं। यह पुनरावृत्ति त्रुटि संचय एक महत्वपूर्ण जोखिम पैदा करता है, क्योंकि गलतियां बाद के प्रशिक्षण चक्रों में समाहित हो सकती हैं बजाय इसके कि उन्हें ठीक किया जाए। जबकि यह दृष्टिकोण सिंगल-एजेंट तरीकों की तुलना में टोकन उपयोग कम करता है, इन जोखिमों को कम करने के लिए इसे स्वतंत्र जांच और स्वायत्तता पर सीमाओं की आवश्यकता होती है। यह शोध उस चुनौती को रेखांकित करता है जो तब उत्पन्न होती है जब सत्यापनकर्ता वह ही सिस्टम होता है जो उत्पादन भी बना रहा है।
decoder