बिम स्वागत: एक 501B ओपन मॉडल जिसे आप अपने पास रख सकते हैं, कस्टमाइज़ कर सकते हैं और स्केल कर सकते हैं
huggingface ·
Reflection ने Beam जारी किया है, जो Apache 2.0 लाइसेंस के तहत Hugging Face पर उपलब्ध एक नया 501 अरब पैरामीटर वाला ओपन-सोर्स लैंग्वेज मॉडल है। कोडिंग और एजेंटिक कार्यों के लिए मुख्य रूप से डिज़ाइन किया गया यह मॉडल Mixture-of-Experts आर्किटेक्चर का उपयोग करता है, जिसमें प्रति टोकन 23 अरब सक्रिय पैरामीटर होते हैं और यह एक विशाल दस लाख टोकन के संदर्भ विंडो (context window) का समर्थन करता है। लंबे संदर्भों पर प्रदर्शन बनाए रखने के लिए इसमें विशेष ध्यान तंत्र (attention mechanisms) और अवशेष स्ट्रीम हैंडलिंग शामिल हैं, साथ ही टूल कॉलिंग और संरचित तर्क के लिए नेटिव समर्थन भी प्रदान किया गया है। उपयोगकर् Transformers, vLLM और SGLang जैसे डे-जीरो संगत लाइब्रेरीज़ का उपयोग करके Beam को तैनात कर सकते हैं, और चेकपॉइंट्स NVIDIA Blackwell, Hopper और Ampere GPUs सहित विभिन्न हार्डवेयर के लिए अनुकूलित किए गए हैं। लेख में कोडिंग, तर्क और सामान्य क्षमताओं पर बेंचमार्क परिणामों का विवरण दिया गया है, जो एजेंटिक वर्कफ़्लो में मजबूत प्रदर्शन दिखाते हैं। इसके अलावा, TRL के साथ सुपरवाइज्ड फाइन-ट्यूनिंग और Miles के माध्यम से रीइन्फोर्समेंट लर्निंग जैसे पोस्ट-ट्रेनिंग तकनीकों के लिए व्यापक गाइड प्रदान किए गए हैं। Beam के साथ बने नवीन परियोजनाओं को प्रोत्साहित करने के लिए, Reflection $10,000 के Hub क्रेडिट प्रदान कर रहा है। कई डेमोज़ व्यावहारिक अनुप्रयोगों को दर्शाते हैं, जिनमें नेटिव macOS ऐप्lications बनाना और मल्टी-एजेंट प्रोग्रामिंग कार्यों को स्केल करना शामिल हैं।
huggingface