Migrando agentes de IA multimodelo para o runtime do Amazon Bedrock AgentCore
aws ·
Esta publicação da AWS explica como migrar um agente de IA multimodelo de saúde, executado no Amazon ECS autogerenciado com AWS Fargate, para o runtime do Amazon Bedrock AgentCore sem alterar sua lógica central. O agente, criado com o framework smolagents da Hugging Face, orquestra o Llama 3.1 70B Instruct do Amazon Bedrock, uma implantação do BioM-ELECTRA-Large-SQuAD2 no Amazon SageMaker AI e um servidor de modelos conteinerizado, enquanto o Amazon OpenSearch Service fornece recuperação de conhecimento aprimorada por vetores. O AgentCore encapsula o código existente com BedrockAgentCoreApp, @app.entrypoint e app.run(), além de gerenciar o ciclo de vida dos contêineres, o dimensionamento, a identidade baseada em IAM e a observabilidade. A publicação detalha os pré-requisitos, a configuração do projeto, o empacotamento com Docker, a implantação pela CLI e a invocação por meio da CLI do AgentCore ou do boto3. Ela contrasta essa abordagem gerenciada com o ECS e o Fargate, que oferecem maior controle sobre a configuração de contêineres, redes e dimensionamento, mas exigem que as equipes gerenciem esses componentes. O exemplo destina-se a demonstração, e o artigo observa que sistemas de produção que lidam com consultas médicas ou outras consultas sensíveis devem usar o Amazon Bedrock Guardrails.
aws