Nvidia का Nemotron 3.5 Super VL एक खुला मॉडल है जो एंटरप्राइज़ AI एजेंट्स को निरंतर चलाने के लिए बनाया गया है
decoder ·
नवीडिया ने निरंतर एंटरप्राइज़ AI एजेंट कार्यों के लिए डिज़ाइन किए गए, 120 बिलियन पैरामीटर वाले ओपन मल्टीमोडल मॉडल 'नेमोट्रॉन 3.5 सुपर VL' को लॉन्च किया है। मिक्सचर-ऑफ़-एक्सपर्ट्स आर्किटेक्चर का उपयोग करते हुए, यह मॉडल दक्षता को बढ़ाने के लिए टेक्स्ट, छवियों और दस्तावेज़ों को प्रोसेस करते समय प्रति टोकन केवल 12 बिलियन पैरामीटर सक्रिय करता है। नवीडिया ने स्थानीय मशीनों (24 GB मेमोरी) के लिए 74B-A9B संस्करण और वॉइस असिस्टेंट्स के लिए 4GB के कॉम्पैक्ट मॉडल सहित दो छोटे 'बोल्ट' वेरिएंट भी पेश किए हैं। कंपनी का दावा है कि सुपर VL अपने बड़े पूर्ववर्ती 'अल्ट्रा' मॉडल के बराबर सटीकता प्रदान करता है, लेकिन एक-पांचवें पैरामीटर के साथ काम करता है और नवीडिया हार्डवेयर पर काफी अधिक थ्रूपुट प्रदर्शित करता है। प्रदर्शन में सुधार के लिए, नवीडिया 4-बिट कंप्रेशन और कैशिंग तकनीकों का उपयोग करती है, जो लेटेंसी को कम करती हैं और मॉडल को अधिक समवर्ती उपयोगकर्ताओं की सेवा करने में सक्षम बनाती हैं। वित्त और साइबर सुरक्षा क्षेत्र के शुरुआती उपयोगकर्ता पहले ही विशिष्ट उपयोग मामलों जैसे धोखाधड़ी का पता लगाने और कमजोरियों के विश्लेषण के लिए मॉडल को फाइन-ट्यून कर रहे हैं। हालाँकि वेट्स और ट्रेनिंग डेटासेट खुले रूप में उपलब्ध हैं, मॉडल नवीडिया के स्वामित्व वाले चिप्स और सिस्टम के लिए कठिनता से अनुकूलित हैं।
decoder