ले शोंक का स्वागत: हगिंग फेस पर मिस्ट्रल लार्ज 4
huggingface ·
मिस्ट्रल ने हगिंग फेस पर उपलब्ध 'ले चोंक' (Le Chonk) नामक मिस्ट्रल लार्ज 4, एक मल्टीमोडल माइक्स्चर-ऑफ-एक्सपर्ट्स मॉडल को रिलीज़ किया है। इस मॉडल में कुल लगभग एक ट्रिलियन पैरामीटर और 49 अरब सक्रिय पैरामीटर हैं, साथ ही यह एक मिलियन टोकन के कॉन्टेक्स्ट विंडो का समर्थन करता है। यह टेक्स्ट और इमेज इनपुट को संभालते हुए टेक्स्ट रिस्पॉन्स जनरेट करने के लिए डिज़ाइन किया गया है, जिसमें साइबर सुरक्षा, कोडिंग एजेंट्स और बहुभाषी कार्यों में मजबूत क्षमताएं हैं। विशेष रूप से, सॉफ़्टवेयर कमियों की पुनः उत्पादन और पचिंग जैसे कार्यों में कई बंद-स्रोत मॉडल सुरक्षा कारणों से असफल रहते हैं, लेकिन मिस्ट्रल लार्ज 4 आर्टिफिशियल एनालिसिस साइबर इंडेक्स पर 82% स्कोर हासिल करता है। इसे मिस्ट्रल इकोसिस्टम ओपन-वेट लाइसेंस के तहत वितरित किया गया है, जो FP8 और NVFP4 वेरिएंट, स्थानीय निष्पादन के लिए GGUF क्वांटाइज़ेशन, Transformers, vLLM और Llama.cpp जैसे प्रमुख फ्रेमवर्क्स के लिए डे-ज़ीरो सपोर्ट के साथ आता है। उपयोगकर्ता TRL का उपयोग करके मॉडल को फाइन-ट्यून कर सकते हैं या एंटरप्राइज़ उपयोग मामलों के लिए हगिंग फेस इन्फरेंस एंडपॉइंट्स और Dell Enterprise Hub के माध्यम से इसे तैनात कर सकते हैं।
huggingface