एम्बेडिंगजेमा 2: एक खुला, हल्का बहुआयामी एम्बेडिंग मॉडल
deepmind ·
Google DeepMind ने EmbeddingGemma 2 लॉन्च किया है, जो कुशल ऑन-डिवाइस प्रोसेसिंग के लिए डिज़ाइन किए गए एक ओपन-सोर्स मल्टीमोडल एम्बेडिंग मॉडल का नाम है। 740 मिलियन पैरामीटरों वाले Gemma 4 आर्किटेक्चर पर बना यह मॉडल टेक्स्ट, छवियों, ऑडियो और वीडियो को स्वाभाविक रूप से एक एकीकृत एम्बेडिंग स्पेस में मैप करता है। यह सब-1B मॉडलों में शीर्ष प्रदर्शन हासिल करता है, जिसमें विजन और ऑडियो कार्यों के लिए उच्च गुणवत्ता बनाए रखते हुए कोड समझ में काफी सुधार हुआ है। इसमें मोड्यूलर डिज़ाइन विकल्प शामिल हैं, जो डेवलपर्स को टेक्स्ट-ओनली जैसे विशिष्ट मोडेलिटीज के लिए छोटे पैरामीटर गिनती का उपयोग करने की अनुमति देते हैं। मेट्रिशोका रिप्रजेंटेशन लर्निंग (Matryoshka Representation Learning) के माध्यम से स्टोरेज दक्षता बढ़ाई गई है, जो कम मेमोरी उपयोग के लिए गतिशील वेक्टर ट्रंकेशन सक्षम बनाती है। एज हार्डवेयर के लिए अनुकूलित, यह मॉडल Google Pixel 11 Pro जैसे उपकरणों पर न्यूनतम RAM आवश्यकताओं के साथ चलता है। 8K टोकन संदर्भ विंडो के साथ, यह क्लाउड निर्भरता के बिना स्थानीय हार्डवेयर पर सीधे मीडिया की बड़ी मात्रा को प्रोसेस कर सकता है। यह रिलीज़ ऑफलाइन सेमांटिक सर्च और रिट्रीवल-ऑगमेंटेड जनरेशन पाइपलाइनों को सक्षम बनाकर प्राइवेसी-फर्स्ट एप्लिकेशन का समर्थन करती है।
deepmind