उत्पादन एआई एजेंट्स के लिए संदर्भ इंजीनियरिंग के चार परतें: डीप इन्साइट उन्हें वर्किंग कोड में कैसे लागू करता है
aws ·
यह लेख उत्पादन-स्तरीय एआई एजेंट्स के लिए एक चार-स्तर वाले संदर्भ इंजीनियरिंग ढांचे का विवरण देता है, जिसका प्रदर्शन AWS पर निर्मित Deep Insight मल्टी-एजेंट डेटा विश्लेषण सिस्टम के माध्यम से किया गया है। पहला स्तर संदर्भ को अलग करता है, विशेषज्ञ एजेंट्स को स्वतंत्र विंडो आवंटित करके और साझा स्टेट डिक्शनरी के माध्यम से केवल संपीडित सारांश पास करके। दूसरा स्तर कठोर प्रॉम्प्ट-आधारित आउटपुट टोकन बजट और इस बात पर जोर देकर कि स्क्रिप्टें पिछले वेरिएबल्स पर निर्भर नहीं करतीं (self-contained code philosophy), संदर्भ की प्रवाह को नियंत्रित करता है। तीसरा स्तर भारी सामग्री को फाइल सिस्टम में बाहर निकालता है, एक 'write-and-execute' टूल का उपयोग करता है जो संदर्भ टोकन्स को लगभग 95 प्रतिशत तक कम करता है और सिस्टम प्रॉम्प्स को 97 प्रतिशत तक छोटा करने के लिए स्किल्स को अनुरोध पर लोड करता है। चौथा स्तर Validators और Auditors जैसे सत्यापन एजेंट्स और संदर्भ ओवरफ्लो हैंडल करने के लिए SummarizingConversationManager जैसे सुरक्षा उपायों के माध्यम से गुणवत्ता सुनिश्चित करता है। ये तकनीकें मिलकर संदर्भ विंडो की समाप्ति को रोकती हैं, लागत कम करती हैं और जटिल, दीर्घकालिक कार्यों में सटीकता बनाए रखती हैं। यह दृष्टिकोण इन अभ्यासों को कुशलतापूर्वक लागू करने के लिए Strands Agents SDK और Amazon Bedrock AgentCore की सुविधाओं का लाभ उठाता है।
aws