Reka AI का ऑमनी-मॉडल Rho-1 एक ही मॉडल में टेक्स्ट, छवियों, वीडियो और रोबोट नियंत्रण को संभालता है
decoder ·
Reka AI ने Rho-1 का एक शोध पूर्वावलोकन जारी किया है, जो 19 बिलियन पैरामीटर वाला एक ओमनी-मॉडल है और एक ही न्यूरल नेटवर्क के भीतर पाठ, छवियों, वीडियो और रोबोट नियंत्रण कार्यों को संसाधित एवं उत्पन्न करने में सक्षम है। पारंपरिक प्रणालियों के विपरीत, जो विशेष मॉडलों या बाहरी टूल कॉल्स पर निर्भर करती हैं, Rho-1 सभी मोडेलिटीज़ को एक साझा संदर्भ खिड़की में टोकन के रूप में संभालता है। यह मॉडल वास्तविक समय में निरंतर वीडियो उत्पन्न कर सकता है और बिना पुनः शुरू किए नए निर्देशों के अनुकूल हो सकता है। रोबोट प्रशिक्षण डेटा की कमी को दूर करने के लिए, Reka AI ने एक इन्वर्स डाइनेमिक्स मॉडल विकसित किया है जो मानक इंटरनेट वीडियो से नियंत्रण सिग्नल निकालता है। कैमरा छवियों की भविष्यवाणी के लिए उपयोग किए जाने वाले समान वजन (weights) रोबोटिक गतियों को चलाने के लिए भी उपयोग किए जाते हैं। इसका प्रशिक्षण लगभग तीन महीने की अवधि में 320 H100 GPU का उपयोग करके किया गया था। यह रिलीज अप्रैल 2024 में Reka AI द्वारा मुख्य बहुआयामी भाषा मॉडलों के साथ प्रतिस्पर्धा करने वाली Reka Core की पिछली लॉन्च के बाद आई है। यह विकास व्यापक उद्योग रुझान के अनुरूप है, जिसका उद्देश्य व्यापक वर्ल्ड मॉडल बनाना है।
decoder