निर्णय मॉडल प्रतियोगिता तेज होने के साथ OpenAI ने अपने Jev प्रतिस्पर्धी को व्यापक रूप से उपलब्ध कराया
techcrunch ·
OpenAI ने तेज़ और किफ़ायती निर्णय-निर्माण मॉडल्स के लिए तेज़ी से बढ़ते बाजार में प्रवेश करते हुए, अपने Decisions API को आमतौर पर जनता के लिए उपलब्ध करा दिया है। यह कदम TypeSafe के Jev मॉडल की सफलता के बाद आया है, जिसने दिखाया था कि विशेष 'System One' मॉडल्स विशिष्ट कार्यप्रवाहों में पारंपरिक बड़े भाषा मॉडल्स (LLMs) को काफी कम लेटेंसी और खर्च के साथ बदल सकते हैं। OpenAI ने इस नए ऑफर को बनाने के लिए अपने ChatGPT Luna मॉडल को अनुकूलित किया, जिससे इनफरेंस गति 100 से 180 मिलीसेकंड के बीच हो गई, जो पिछले एक से तीन सेकंड के रेंज की तुलना में काफी बेहतर है। Box, Datadog, Ramp और Speak जैसे शुरुआती उपयोगकर्ताओं ने थ्रूपुट और प्रतिक्रिया समय में उल्लेखनीय सुधार की रिपोर्ट की है; Speak ने एक्शन अंतराल को 1.4 सेकंड से घटाकर केवल 0.13 सेकंड कर दिया है। हालांकि Liquid के D1 Ultra और Base Lab के Elephant-1 जैसे प्रतिस्पर्धियों के खिलाफ बैंचमार्क्स के परिणाम मिश्रित रहे हैं, लेकिन OpenAI अपने Luna-आधारित समाधान की बहु-मोडल क्षमताओं को मुख्य लाभ के रूप में उजागर करता है। कंपनी और भी तेज़ गति, संभवतः 60 मिलीसेकंड, की ओर काम कर रही है ताकि फ्रेम-दर-फ्रेम वीडियो विश्लेषण जैसे रियल-टाइम अनुप्रयोग संभव हो सकें। जैसे-जैसे ये मॉडल सस्ते और अधिक व्यापक होते जा रहे हैं, वे ऐसे नए उपयोग मामलों को सक्रिय कर रहे हैं जो पहले गति या लागत की बाधाओं के कारण असंभव थे।
techcrunch