कोडिंग एजेंट टोकन उपयोग को आधा करने के लिए हार्नेस को अनुकूलित करके नविडिया का SoL-Pi सिस्टम
decoder ·
Nvidia के शोधकर्ताओं ने SoL-Pi नामक एक सिस्टम पेश किया है जो कोडिंग एजेंट्स के नियंत्रण परत को अनुकूलित करके टोकन खपत में उल्लेखनीय कमी लाता है। एजेंट ट्रaces का विश्लेषण स्वचालित करने और हार्नेस संशोधनों का प्रस्ताव देने के माध्यम से, यह सिस्टम तुलनीय प्रदर्शन बनाए रखते हुए टोकन उपयोग को लगभग आधा कर देता है। इस दृष्टिकोण ने 535 वातावरणों में 152 से अधिक दिशाओं की जांच की, जहाँ एक्शन फ्यूजन (Action Fusion) और ऑनलाइन कॉन्टेस्ट कंपैक्ट (Online Context Compact) जैसे चार प्रमुख तंत्रों की पहचान की गई जो अनावश्यक कार्य को समाप्त करते हैं। EdgeBench बेंचमार्क पर, सबसे कुशल संस्करण ने लागत में 49 प्रतिशत की कमी की और मूल Pi हार्नेस के स्कोर का 93.7 प्रतिशत हासिल किया। हालांकि EdgeBench जैसे विशिष्ट बेंचमार्कों पर यह प्रभावी रहा, लेकिन Terminal-Bench 4 जैसे अन्य परीक्षणों में परिणाम मिश्रित रहे, जहाँ इसने प्रतिद्वंद्वियों की तुलना में कम कार्यों को हल किया। अध्ययन दर्शाता है कि Codex और Claude Code की नेटिव इम्प्लीमेंटेशन की तुलना में हार्नेस को अनुकूलित करने से महत्वपूर्ण बचत हो सकती है। темेले, लेखक बताते हैं कि इन दक्षता लाभों के साथ कुछ समझौते भी हो सकते हैं, जैसे कि प्रॉम्प्ट कैश रीयूज़ में कमी। यह विकास एजेंटिक AI के बढ़ते लागत बोझ को संबोधित करता है, जिसमें टोकन उपयोग शुरूआत 2026 से चौदह गुना बढ़ा है।
decoder