使用 NVIDIA NeMo Agent Toolkit 和 Amazon S3 Vectors 构建代理记忆
aws ·
本文详细介绍了通过将 NVIDIA NeMo Agent Toolkit (NAT) 与 Amazon S3 Vectors 集成,为多智能体 AI 系统实现持久化记忆的方法。文章解释了如何创建一个自定义的 MemoryEditor 插件,利用 Amazon Titan Text Embeddings V2 在 Amazon EKS 环境中存储和检索语义数据。指南提供了配置向量桶、索引元数据以及在 NAT 的 YAML 配置中注册提供者的代码示例。一个涉及投资研究智能体的实际用例展示了多个智能体如何通过 team_id 和 user_id 等范围元数据过滤器共享知识。此外,文章还涵盖了容器化智能体、通过 Kubernetes 清单部署它们以及通过服务账户 IAM 角色管理访问等操作方面。最后,讨论了评估 groundedness(接地性)和 token 使用量等性能指标的策略,以及内存整合和资源清理方法。
aws