AI प्रदर्शन लागतें किसी भी पिछली तकनीक की तुलना में तेजी से गिर रही हैं
decoder ·
हालिया शोध से पता चलता है कि एआई बेंचमार्क में निश्चित प्रदर्शन स्तर प्राप्त करने की लागत में भारी कमी आई है; Epoch AI के अनुसार, 2023 से यह लागत प्रति तिमाही 47% की दर से घट रही है। यह लागत कमी की गति किसी भी पिछली परिवर्तनकारी तकनीक की तुलना में काफी तेज है, हालांकि यह बाजार मूल्यों को दर्शाती है, शुद्ध एल्गोरिदम दक्षता को नहीं। MIT के शोधकर्ता एक अधिक सूक्ष्म दृष्टिकोण प्रदान करते हैं, जिसमें सस्ते हार्डवेयर और प्रतिस्पर्धी मूल्य दबावों को ध्यान में रखने के बाद एल्गोरिदम लाभ के कारण वार्षिक सुधार लगभग तीन गुना बताया गया है। अध्ययनों के बीच का अंतर इसलिए है क्योंकि नए तर्क आधारित मॉडल अक्सर प्रति कार्य अधिक कंप्यूट क्षमता का उपभोग करते हैं, जिससे टोकन की कीमत कम होने के बावजूद लागत बढ़ सकती है। जबकि पिछले उच्च-स्तरीय क्षमताओं को हासिल करना अब बहुत सस्ता हो गया है, वर्तमान राज्य-अग्रणी (state-of-the-art) मॉडल चलाने की लागत अक्सर अधिक होती है क्योंकि परीक्षण-समय कंप्यूट (test-time compute) में वृद्धि हुई है। इसके अलावा, बेंचमार्क स्कोर हमेशा वास्तविक दुनिया की दक्षता से सहसंबंधित नहीं होते हैं, क्योंकि कंपनियां विशिष्ट परीक्षणों के लिए अनुकूलन कर सकती हैं बिना समानुपातिक व्यावहारिक लाभ दिए। परिणामस्वरूप, एक एआई मॉडल चुनने के लिए साधारण प्रति-टोकन मूल्य मापदंडों के परे कारकों जैसे अड़चन (latency), सटीकता और विशिष्ट कार्यप्रवाह के लिए उपयुक्तता का मूल्यांकन करना आवश्यक है।
decoder