Migrer des agents IA multimodèles vers le runtime Amazon Bedrock AgentCore
aws ·
Cet article d’AWS explique comment migrer un agent d’IA de santé multimodèle, déployé sur Amazon ECS autogéré avec AWS Fargate, vers l’environnement d’exécution Amazon Bedrock AgentCore sans modifier la logique principale de l’agent. Basé sur le framework smolagents de Hugging Face, l’agent orchestre Llama 3.1 70B Instruct d’Amazon Bedrock, un déploiement de BioM-ELECTRA-Large-SQuAD2 sur Amazon SageMaker AI, ainsi qu’un serveur de modèles conteneurisé, tandis qu’Amazon OpenSearch Service fournit une récupération de connaissances enrichie par des vecteurs. AgentCore encapsule le code existant avec BedrockAgentCoreApp, @app.entrypoint et app.run(), et gère le cycle de vie des conteneurs, la mise à l’échelle, l’identité fondée sur IAM et l’observabilité. L’article détaille les prérequis, la configuration du projet, la création du paquet Docker, le déploiement avec l’interface de ligne de commande et l’invocation via l’interface de ligne de commande AgentCore ou boto3. Il compare cette approche gérée à ECS et Fargate, qui offrent davantage de contrôle sur la configuration des conteneurs, du réseau et de la mise à l’échelle, mais exigent des équipes qu’elles gèrent ces composants. L’exemple est destiné à la démonstration, et l’article précise que les systèmes de production traitant des requêtes médicales ou d’autres requêtes sensibles doivent utiliser les Amazon Bedrock Guardrails.
aws