एज के लिए मल्टीमोडल ओपन d1 निर्णय मॉडल
huggingface ·
LiquidAI ने किनारे-पर कंप्यूटिंग (edge computing) के लिए दक्षता प्रदान करने वाले दो ओपन-वेट निर्णय मॉडल, d1-3B और प्रायोगिक d1-omni-600M को जारी किया है। पारंपरिक जनरेटिव मॉडल्स के विपरीत जो टोकन को क्रमिक रूप से उत्पन्न करते हैं, ये निर्णय मॉडल एक ही फॉरवर्ड पास में उत्तर प्रदान करते हैं, जिससे निष्पादन गति (inference speed) काफी तेज हो जाती है। d1-3B मॉडल टेक्स्ट और छवि इनपुट का समर्थन करता है, जबकि d1-omni-600M टेक्स्ट, छवियों और ऑडियो सहित बहुआयामी (multimodal) इनपुट संभालता है। बेंचमार्क दर्शाते हैं कि 10 अरब पैरामीटर से कम वाले मॉडलों में d1-3B का निर्णय सूचकांक (Decision Index) स्कोर सबसे उच्च है, जो Decider 35B-A3B जैसे बड़े प्रतिस्पर्धियों को भी पीछे छोड़ता है। गति के मामले में, d1-3B उच्च-स्तरीय GPU पर 8 मिलीसेकंड से भी कम समय में और NVIDIA Jetson किनारे-पर डिवाइसों पर 50 मिलीसेकंड से कम समय में प्रश्नों के उत्तर दे सकता है। ये मॉडल Liquid Foundation Models पर आधारित हैं, जहाँ d1-3B एक डिकोडर-केवल VLM से और d1-omni-600M एक द्विदिशीय एन्कोडर आर्किटेक्चर से व्युत्पन्न है। दोनों मॉडल Hugging Face पर डाउनलोड के लिए उपलब्ध हैं, जिससे डेवलपर्स अपनी एप्लिकेशन में तेज़ और संरचित निर्णय लेने की क्षमताओं को एकीकृत कर सकते हैं।
huggingface