Construir memória de agente com NVIDIA NeMo Agent Toolkit e Amazon S3 Vectors
aws ·
Este artigo detalha a implementação de memória persistente para sistemas de IA multiagente, integrando o NVIDIA NeMo Agent Toolkit (NAT) com os Amazon S3 Vectors. Explica como criar um plugin MemoryEditor personalizado que utiliza o Amazon Titan Text Embeddings V2 para armazenar e recuperar dados semânticos em um ambiente Amazon EKS. O guia fornece exemplos de código para configurar buckets de vetores, indexar metadados e registrar o provedor na configuração YAML do NAT. Um caso de uso prático envolvendo agentes de pesquisa de investimentos demonstra como múltiplos agentes compartilham conhecimento por meio de filtros de metadados escopados, como team_id e user_id. O post também aborda aspectos operacionais, como containerizar agentes, implantá-los por meio de manifestos do Kubernetes e gerenciar o acesso usando IAM Roles for Service Accounts. Por fim, discute a avaliação de métricas de desempenho, como groundedness e uso de tokens, além de estratégias para consolidação da memória e limpeza de recursos.
aws