मल्टी-मॉडल AI एजेंट्स को Amazon Bedrock AgentCore रनटाइम पर माइग्रेट करना
aws ·
यह AWS पोस्ट बताती है कि बिना एजेंट के मुख्य लॉजिक में बदलाव किए, AWS Fargate के साथ स्व-प्रबंधित Amazon ECS से बहु-मॉडल स्वास्थ्य सेवा AI एजेंट को Amazon Bedrock AgentCore रनटाइम में कैसे माइग्रेट किया जाए। Hugging Face smolagents फ्रेमवर्क से निर्मित यह एजेंट Amazon Bedrock के Llama 3.1 70B Instruct, Amazon SageMaker AI पर तैनात BioM-ELECTRA-Large-SQuAD2 और कंटेनरीकृत मॉडल सर्वर का समन्वय करता है, जबकि Amazon OpenSearch Service वेक्टर-संवर्धित ज्ञान पुनर्प्राप्ति उपलब्ध कराती है। AgentCore मौजूदा कोड को BedrockAgentCoreApp, @app.entrypoint और app.run() के माध्यम से समाहित करता है तथा कंटेनर के जीवनचक्र, स्केलिंग, IAM-आधारित पहचान और ऑब्ज़र्वेबिलिटी का प्रबंधन करता है। पोस्ट में आवश्यक पूर्वापेक्षाओं, प्रोजेक्ट सेटअप, Docker पैकेजिंग, CLI परिनियोजन और AgentCore CLI या boto3 के माध्यम से आह्वान की जानकारी दी गई है। इसमें इस प्रबंधित तरीके की तुलना ECS और Fargate से की गई है, जो कंटेनर, नेटवर्किंग और स्केलिंग कॉन्फ़िगरेशन पर अधिक नियंत्रण देते हैं, लेकिन इन घटकों का प्रबंधन टीमों को स्वयं करना पड़ता है। यह नमूना प्रदर्शन के लिए है, और लेख में कहा गया है कि मेडिकल या अन्य संवेदनशील प्रश्नों को संभालने वाली उत्पादन प्रणालियों में Amazon Bedrock Guardrails का उपयोग किया जाना चाहिए।
aws