Fünf Produktionsherausforderungen in Multi-Agenten-Systemen und wie Deep Insight sie löste
aws ·
Dieser Artikel beschreibt, wie das AWS Solutions Architecture Team Deep Insight entwickelt hat, ein produktionsreifes Multi-Agenten-System, das darauf ausgelegt ist, häufige Herausforderungen bei der Bereitstellung von KI-Agenten zu bewältigen. Das System nutzt die Strands Agents SDK, um acht spezialisierte Agenten zu orchestrieren, die bei Datenanalyseaufgaben zusammenarbeiten – von der Planung bis zur Berichterstellung. Zu den wichtigsten architektonischen Entscheidungen gehören die Verwendung des Graph-Musters für den Ausführungsfluss und des Agents-as-Tools-Musters für die modulare Aufrufbarkeit durch einen zentralen Supervisor. Zur Optimierung von Kosten und Leistung werden verschiedene Claude-Modelle bestimmten Rollen zugewiesen, beispielsweise Haiku für das Routing und Opus für komplexe Planungen. Die Sicherheit wird durch isolierte Codeausführung in ephemeren Containern auf AWS Fargate innerhalb eines privaten VPC gewährleistet. Operative Transparenz wird durch ein Ops-Dashboard bereitgestellt, das DynamoDB, SNS und Cognito für Überwachung und Alarmierung nutzt. Die Autoren betonen, dass eine erfolgreiche Produktionsbereitstellung eine robuste Architektur erfordert, die über einfaches Prompt Engineering hinausgeht. Schließlich wird erwähnt, dass dieses Design bereits erfolgreich in realen Anwendungsfällen wie bei LG Electronics und TechRecon eingesetzt wurde.
aws