Créer une mémoire d'agent avec NVIDIA NeMo Agent Toolkit et Amazon S3 Vectors
aws ·
Cet article détaille la mise en œuvre d'une mémoire persistante pour les systèmes d'IA multi-agents en intégrant NVIDIA NeMo Agent Toolkit (NAT) avec Amazon S3 Vectors. Il explique comment créer un plugin MemoryEditor personnalisé qui utilise Amazon Titan Text Embeddings V2 pour stocker et récupérer des données sémantiques au sein d'un environnement Amazon EKS. Le guide fournit des exemples de code pour configurer les compartiments de vecteurs, indexer les métadonnées et enregistrer le fournisseur dans la configuration YAML de NAT. Un cas d'utilisation pratique impliquant des agents de recherche d'investissement démontre comment plusieurs agents partagent des connaissances grâce à des filtres de métadonnées ciblés, tels que team_id et user_id. L'article aborde également les aspects opérationnels, notamment la conteneurisation des agents, leur déploiement via des manifestes Kubernetes et la gestion des accès par le biais des rôles IAM pour les comptes de service. Enfin, il traite de l'évaluation des indicateurs de performance tels que la cohérence factuelle (groundedness) et l'utilisation des jetons, ainsi que des stratégies de consolidation de la mémoire et de nettoyage des ressources.
aws