Amazon Bedrock पर Kimi K3 का परिचय
aws ·
AWS ने घोषणा की है कि Moonshot AI का Kimi K3 अब कोडिंग और ज्ञान-कार्य संबंधी वर्कलोड के लिए Amazon Bedrock पर उपलब्ध है। Moonshot AI के अनुसार, यह उसका सबसे सक्षम मॉडल है और 2.8 ट्रिलियन पैरामीटर तक पहुँचने वाला पहला ओपन मॉडल है; इसमें नेटिव विज़न, 1 मिलियन टोकन की कॉन्टेक्स्ट विंडो और Kimi K2 की तुलना में लगभग 2.5 गुना अधिक स्केलिंग दक्षता शामिल है। Kimi K3 Bedrock पर स्पष्ट प्रॉम्प्ट कैशिंग का समर्थन करने वाला पहला ओपन-वेट मॉडल भी है, जिससे स्थिर कॉन्टेक्स्ट का दोबारा उपयोग किए जाने पर लेटेंसी और इनपुट-टोकन लागत कम हो सकती है। AWS का कहना है कि अनुरोध AWS की डेटा सीमा के भीतर रहते हैं, मॉडल प्रदाता के साथ साझा नहीं किए जाते और प्रशिक्षण के लिए उपयोग नहीं किए जाते; साथ ही इन्हें शून्य डेटा प्रतिधारण और शून्य ऑपरेटर पहुँच का लाभ मिलता है। उपयोगकर्ता Bedrock कंसोल या API के माध्यम से इसे एक्सेस कर सकते हैं, जिसमें OpenAI-संगत Responses और Chat Completions भी शामिल हैं, और इसके लिए ग्लोबल तथा अमेरिकी भौगोलिक क्रॉस-रीजन इन्फरेंस प्रोफ़ाइल उपलब्ध हैं। लेख में OpenCode और Hermes Agent के साथ इसके इंटीग्रेशन का प्रदर्शन भी किया गया है तथा पाठकों को AWS के सैंपल, दस्तावेज़ और मूल्य निर्धारण संबंधी जानकारी की ओर निर्देशित किया गया है।
aws