Costruire la memoria degli agenti con NVIDIA NeMo Agent Toolkit e Amazon S3 Vectors
aws ·
Questo articolo descrive l'implementazione di una memoria persistente per sistemi di intelligenza artificiale multi-agente, integrando NVIDIA NeMo Agent Toolkit (NAT) con Amazon S3 Vectors. Spiega come creare un plugin MemoryEditor personalizzato che utilizza Amazon Titan Text Embeddings V2 per archiviare e recuperare dati semantici all'interno di un ambiente Amazon EKS. La guida fornisce esempi di codice per la configurazione dei bucket vettoriali, l'indicizzazione dei metadati e la registrazione del provider nella configurazione YAML di NAT. Un caso d'uso pratico che coinvolge agenti di ricerca finanziaria illustra come più agenti condividano conoscenze tramite filtri di metadati mirati, come team_id e user_id. L'articolo copre inoltre gli aspetti operativi, tra cui il containerizzazione degli agenti, la distribuzione tramite manifest Kubernetes e la gestione dell'accesso attraverso IAM Roles for Service Accounts. Infine, vengono discussi i metodi di valutazione delle metriche di prestazioni, come la groundedness e l'utilizzo dei token, insieme alle strategie per la consolidamento della memoria e la pulizia delle risorse.
aws