AWS पर एजेंटिक कोडिंग के लिए एक ओपन-वेट मॉडल, रिफ्लेक्शन बीम का परिचय
aws ·
Reflection AI ने Reflection Beam पेश किया है, जो एजेंटिक कोडिंग और कोड मेंटेनेंस जैसे लॉन्ग-होराइजन टास्क के लिए डिज़ाइन किया गया एक ओपन-वेट मॉडल है। इस मॉडल में 501 बिलियन कुल पैरामीटर और 23 बिलियन सक्रिय पैरामीटर वाले स्पार्स मिक्स्चर-ऑफ़-एक्सपर्ट्स आर्किटेक्चर हैं, जो एक मिलियन टोकन की प्रभावी संदर्भ लंबाई का समर्थन करता है। Apache 2.0 लाइसेंस के तहत जारी किया गया Beam, अलग-अलग मेमोरी और हार्डवेयर आवश्यकताओं को पूरा करने के लिए BF16, FP8 और NVFP4 चेकपॉइंट वेरिएंट्स में उपलब्ध है। AWS Amazon SageMaker JumpStart के माध्यम से पूरी तरह से मैनेज्ड रियल-टाइम एंडपॉइंट्स सहित कई डिप्लॉयमेंट पाथवे प्रदान करता है। Kubernetes-नेटिव कंटोल की आवश्यकता वाले उपयोगकर्ताओं के लिए, Amazon SageMaker HyperPod Inference SGLang या vLLM रनटाइम्स के साथ इंटीग्रेशन की सुविधा देता है। ये विकल्प डेवलपर्स को विशिष्ट कन्करेंसी और लेटेंसी टारगेट के अनुसार वितरित GPU इंफ्रास्ट्रक्चर, कैशिंग और स्केलिंग को मैनेज करने की अनुमति देते हैं। लॉन्च पर, मॉडल US East क्षेत्रों में SageMaker JumpStart के माध्यम से उपलब्ध है, जिससे शोधकर्ताओं और डेवलपर्स दोनों को रनटाइम वातावरण को कस्टमाइज़ करने की क्षमता प्राप्त होती है।
aws