अमेज़न सेजमेकर जंपस्टार्ट में अब मेटा का म्यूज़ स्पार्क ओपन उपलब्ध है
aws ·
कोडिंग के लिए अनुकूलित ओपन-वेट मॉडल Meta’s Muse Spark Open अब Amazon SageMaker JumpStart में उपलब्ध है। वास्तविक डेवलपर वर्कफ़्लो पर प्रशिक्षित इस मॉडल में 816 अरब कुल पैरामीटर के साथ मिक्स्चर-ऑफ़-एक्सपर्ट्स आर्किटेक्चर है और यह एक मिलियन टोकन के कॉन्टेक्स्ट विंडो का समर्थन करता है। SageMaker में इसके दो वेरिएंट उपलब्ध हैं: BF16 और NVFP4 क्वांटाइज्ड, जो मेमोरी की आवश्यकताओं और इंस्टेंस चयन में काफी भिन्न हैं। NVFP4 वेरिएंट ml.p5e.48xlarge इंस्टेंस पर चलता है, जबकि उच्च मेमोरी आवश्यकताओं के कारण BF16 वेरिएंट को ml.p6-b300.48xlarge इंस्टेंस की आवश्यकता होती है। उपयोगकर्ता SageMaker Studio या SageMaker Python SDK के माध्यम से मॉडल को तैनात कर सकते हैं, जिससे वे अपने AWS खातों में एंडपॉइंट बनाकर सुरक्षा और इंफ्रास्ट्रक्चर पर पूर्ण नियंत्रण प्राप्त कर सकते हैं। एक रीज़निंग मॉडल के रूप में, यह अंतिम उत्तरों और विस्तृत तर्क सामग्री दोनों प्रदान करता है, जिससे यह जटिल एजेंटिक कोडिंग कार्यों के लिए उपयुक्त है। तैनाती में Meta के लाइसेंस समझौते को स्वीकार करना और चुने गए वेरिएंट के आधार पर विशिष्ट कंप्यूट संसाधनों को कॉन्फ़िगर करना शामिल है।
aws