将多模型 AI 智能体迁移到 Amazon Bedrock AgentCore 运行时
aws ·
这篇 AWS 博文介绍了如何将一个多模型医疗 AI 智能体从由团队自行管理的 Amazon ECS（搭配 AWS Fargate）迁移到 Amazon Bedrock AgentCore 运行时，同时无需更改其核心智能体逻辑。该智能体基于 Hugging Face smolagents 框架构建，负责协调 Amazon Bedrock 的 Llama 3.1 70B Instruct、部署在 Amazon SageMaker AI 上的 BioM-ELECTRA-Large-SQuAD2，以及一个容器化模型服务器；Amazon OpenSearch Service 则提供增强向量检索的知识获取功能。AgentCore 通过 BedrockAgentCoreApp、@app.entrypoint 和 app.run() 封装现有代码，并负责容器生命周期、扩展、基于 IAM 的身份管理和可观测性。博文详细介绍了前置条件、项目设置、Docker 打包、CLI 部署，以及通过 AgentCore CLI 或 boto3 调用智能体的方法。文章将这种托管方式与 ECS 和 Fargate 进行了对比：后者能够对容器、网络和扩展配置提供更大控制权，但需要团队自行管理这些组件。示例旨在用于演示；文章指出，处理医疗或其他敏感查询的生产系统应使用 Amazon Bedrock Guardrails。
aws