Agentenspeicher mit NVIDIA NeMo Agent Toolkit und Amazon S3 Vectors aufbauen
aws ·
Dieser Artikel beschreibt die Implementierung eines persistenten Gedächtnisses für Multi-Agenten-KI-Systeme durch die Integration des NVIDIA NeMo Agent Toolkit (NAT) mit Amazon S3 Vectors. Es wird erläutert, wie ein benutzerdefiniertes MemoryEditor-Plugin erstellt wird, das Amazon Titan Text Embeddings V2 nutzt, um semantische Daten in einer Amazon EKS-Umgebung zu speichern und abzurufen. Der Leitfaden enthält Codebeispiele zur Konfiguration von Vector-Buckets, zum Indizieren von Metadaten und zur Registrierung des Anbieters in der YAML-Konfiguration von NAT. Ein praktisches Anwendungsbeispiel mit Investment-Forschungsagenten veranschaulicht, wie mehrere Agenten Wissen durch scoped-Metadatenfilter wie team_id und user_id teilen. Der Beitrag behandelt zudem operative Aspekte wie die Containerisierung von Agenten, deren Bereitstellung über Kubernetes-Manifeste und das Zugriffsmanagement mittels IAM Roles for Service Accounts. Abschließend werden die Bewertung von Leistungskennzahlen wie Groundedness und Token-Nutzung sowie Strategien zur Konsolidierung des Gedächtnisses und zur Bereinigung von Ressourcen diskutiert.
aws