गूगल के शोधकर्ताओं ने आत्म-सुधार करने वाले एआई एजेंट्स को अपने टेस्ट याद रखने से रोकने का तरीका खोजा
decoder ·
गूगल के शोधकर्ताओं ने RRSI नामक एक नई विधि विकसित की है, जो स्वयं-सुधार करने वाले AI एजेंट्स को अपने परीक्षण कार्यों को याद रखने से रोकती है। यह दृष्टिकोण उस समस्या का समाधान करता है जहां एजेंट सीमित बेंचमार्क्स पर अत्यधिक विशेषज्ञ हो जाते हैं, जिससे अनदेखी चुनौतियों पर प्रदर्शन खराब होता है। RRSI समय के साथ संपादन बजट को कम करके और बेंचमार्क-विशिष्ट चालों को अस्वीकार करने के लिए एक कठोर समीक्षक (critic) का उपयोग करके अनुकूलन लूप को नियंत्रित करता है। यह सिस्टम बढ़े हुए कंप्यूट लागत की तुलना में मापनीय प्रदर्शन लाभ को प्राथमिकता देता है और उन घटकों को हटा देता है जो अब प्रभावकारिता में योगदान नहीं दे रहे होते हैं। आठ विविध बेंचमार्क्स पर进行的 परीक्षण ने दिखाया कि RRSI ने नई कार्यों पर सामान्यीकरण (generalization) में सुधार किया, जबकि इसे अनरेगुलेटेड संस्करणों की तुलना में कम टोकन का उपयोग करना पड़ा। उल्लेखनीय रूप से, इस विधि के साथ अनुकूलित हार्नेस ने मॉडिफिकेशन की आवश्यकता के बिना कमजोर मॉडलों के प्रदर्शन में भी सुधार किया। अध्ययन निष्कर्ष निकालता है कि एजेंट क्षमताओं में विश्वसनीय वृद्धि के लिए ओवरफिटिंग से बचते हुए रेगुलेटेड फीडबैक आवश्यक है।
decoder