अमेज़न बेड्रॉक पर 40 मिलियन डेवलपर्स के लिए पोस्टमैन एजेंट मोड कैसे चलाता है
aws ·
पोस्टमैन ने अमेजन बेड्रॉक का उपयोग करके अपने 40 मिलियन डेवलपर्स के लिए एजेंट मोड को सफलतापूर्वक डिप्लॉय किया है, जिसमें एक परिपक्क उत्पाद में AI को एकीकृत करने की जटिल इंजीनियरिंग चुनौतियों को हल किया गया। टीम ने पाया कि टूल स्प्रे (tool sprawl) का प्रबंधन महत्वपूर्ण था, इसलिए उन्होंने मॉडल की दृष्टि को केवल प्रासंगिक टूल्स तक सीमित करने और बड़े टूलसेट से जुड़ी त्रुटियों को कम करने के लिए गतिशील टूल चयन लागू किया। दक्षता बढ़ाने के लिए, पोस्टमैन ने कई सिंगल-पर्पस टूल्स बनाने के बजाय स्कीमा-आधारित रीड एक्सेस प्रदान करना शुरू किया, जिससे एजेंट SQL-जैसे कमांड्स के माध्यम से संरचित डेटा का सीधा प्रश्न पूछ सका। संदर्भ प्रबंधन (context management) प्राथमिक बाधा के रूप में उभरा, जिसके परिणामस्वरूप विशेष उद्देश्य वाले संदर्भ हैंडलर विकसित किए गए जो इंटरफ़ेस-विशिष्ट डेटा मॉडल को सीरियलाइज़ करने के बजाय इकाई जानकारी को संक्षिप्त करते हैं। इंफ्रास्ट्रक्चर के पक्ष में, अमेजन बेड्रॉक क्लाउड परिवार के across मॉडल लचीलेपन, ट्रैफिक बर्स्ट को संभालने के लिए क्रॉस-रेजियन इनफरेंस, और लेटेंसी व लागत को अनुकूलित करने के लिए टियर्ड प्रॉम्प्ट कैशिंग जैसे आवश्यक क्षमताएं प्रदान करता है। भौगोलिक इनफरेंस प्रोफाइल्स और शून्य डेटा रिटेंशन सेटिंग्स के माध्यम से एंटरप्राइज सुरक्षा बनाए रखी जाती है, जो कठोर डेटा रेसिडेंसी आवश्यकताओं के अनुरोध को सुनिश्चित करती है। ये आर्किटेक्चर पैटर्न दिखाते हैं कि कैसे टीमें संदर्भ और टूल एक्सपोजर को दुर्लभ संसाधनों के रूप में मानकर उत्पादन एजेंटों को प्रोटोटाइप से आगे बढ़ा सकती हैं। अंततः, यह समाधान एजेंट कार्यों को UI स्टेट से अलग करने और एक मजबूत रिट्रीवल ऑगमेंटेड जनरेशन (RAG) ज्ञान आधार को बनाए रखने के महत्व पर प्रकाश डालता है।
aws