प्रिज्मएल ने क्वालकॉम-संचालित एआई स्मार्ट ग्लासेस के लिए अपना 1-बिट बॉन्साई एलएलएम लाया
aiinsider ·
कैलिफोर्निया इंस्टीट्यूट ऑफ़ टेक्नोलॉजी (Caltech) के शोधकर्ताओं द्वारा स्थापित और यूसी बर्कले के आयोन स्टोबिका द्वारा सलाहकार के रूप में सेवा देने वाले AI लैब प्रिज़्मएल (PrismML) ने क्वालकॉम के स्नैपड्रैगन चिप्स से संचालित स्मार्ट ग्लासेज पर चलने के लिए डिज़ाइन किए गए अपने छोटे भाषा मॉडलों का एक संस्करण विकसित किया है। कंपनी ने हाल ही में हुए स्नैपड्रैगन समिट में अपने 1-बिट बॉन्साई LLM को प्रदर्शित किया, जिसमें दिखाया गया कि यह मॉडल स्नैपड्रैगन AR1 Gen 1 प्लेटफ़ॉर्म का उपयोग करके बनाए गए AI ग्लासेज पर स्थानीय रूप से काम कर सकता है। यह विशिष्ट संस्करण 2 अरब पैरामीटर वाला एक मॉडल है जो दृष्टि और भाषा दोनों के लिए ट्यून किया गया है, जिससे उपयोगकर्ताओं को अपने दृश्य परिवेश के बारे में रियल-टाइम उत्तर प्राप्त करने में सहायता मिलती है। प्रिज़्मएल को मानक बेंचमार्क्स पर लगभग सभी प्रदर्शन को बनाए रखते हुए बड़े मॉडलों को चार गुना तक कम करने के लिए जाना जाता है। इस स्टार्टअप का उद्देश्य ऐसे खुले वजन वाले AI प्रदान करना है जो सीधे उपकरणों पर चलें, जिससे स्वामित्व वाली प्रयोगशालाओं पर निर्भर रहने के बिना मौजूदा कंप्यूटिंग शक्ति का बेहतर उपयोग किया जा सके। इस दृष्टिकोण को मुख्य AI कंपनियों की गोपनीयता के वादों और बढ़ते कंप्यूट संसाधनों की मांग पर निर्भर रहने के विकल्प के रूप में प्रस्तुत किया गया है। हालांकि क्वालकॉम का यह रिलीज़ इस दृष्टि की ओर महत्वपूर्ण प्रगति दर्शाता है, लेकिन अभी तक प्रिज़्मएल के मॉडल पर चलने वाले किसी भी स्मार्ट ग्लासेज की आधिकारिक घोषणा नहीं की गई है।
aiinsider