नया AgentCore रनटाइम: लचीला, अनुकूलित और लगातार तेज़ शुरुआत
aws ·
AWS ने नए Amazon Bedrock AgentCore रनटाइम की घोषणा की है, जिसे प्रोडक्शन एजेंट्स के लिए अधिक इलास्टिसिटी, दक्षता और पूर्वानुमेय स्टार्टअप प्रदर्शन देने के उद्देश्य से बनाया गया है। यह आवश्यकता के अनुसार मेमोरी को पेज-इन करता है और रिलीज़ हो चुकी या निष्क्रिय मेमोरी को वापस ले लेता है, जिससे उपयोग और बिलिंग सेशन के पीक आवंटन के बजाय उसके वास्तविक वर्कलोड के अनुरूप होती है। यह रनटाइम किसी एनवायरनमेंट को एक बार इनिशियलाइज़ करके उसकी कार्यशील स्थिति का स्नैपशॉट लेता है और नए इंस्टेंस के लिए पूरी स्टार्टअप प्रक्रिया दोहराने के बजाय उसी स्नैपशॉट को रीस्टोर करता है। AWS के परीक्षणों में, 200 MB से 2 GB तक के इमेज आकारों के लिए नए रनटाइम की P75 कोल्ड-स्टार्ट लेटेंसी लगभग दो सेकंड रही, जबकि मूल रनटाइम में इमेज का आकार बढ़ने पर यह लगभग 5.4 सेकंड से बढ़कर करीब 30 सेकंड हो गई। इसमें स्केल-टू-ज़ीरो और उपयोग-आधारित बिलिंग की सुविधाएँ बरकरार हैं, जिससे एजेंट बिना रनिंग क्षमता के निष्क्रिय रह सकते हैं और अप्रयुक्त मेमोरी के लिए शुल्क से बचा जा सकता है। डेवलपर platformVersion को V2 पर सेट करके नया रनटाइम सक्षम कर सकते हैं। आगे की योजनाओं में बेसलाइन मूल्य निर्धारण, बड़े कंप्यूट और स्टोरेज विकल्प, x86 सपोर्ट, लाइफसाइकल कंट्रोल और बिना निगरानी चलने वाले एजेंट्स के लिए सीमित-स्कोप वाली पहचानें शामिल हैं।
aws