Wie MoEngage über 400 APIs mit AgentCore Gateway in Agent-Tools verwandelte
aws ·
MoEngage hat erfolgreich über 400 interne REST-APIs in KI-Agent-Tools mit dem Amazon Bedrock AgentCore Gateway integriert und dabei erhebliche Herausforderungen in den Bereichen Sicherheit und Skalierbarkeit bewältigt. Das Unternehmen lehnte den traditionellen Ansatz ab, für jedes Team einzelne Model Context Protocol (MCP)-Server bereitzustellen, da dies umfangreiche Netzwerk- und Wartungsarbeiten über sieben AWS-Regionen hinweg erfordert hätte. Stattdessen etablierte es das Prinzip, dass Produktteams OpenAPI-Spezifikationen bereitstellen, während das KI-Plattformteam die MCP-Schicht durchgängig verwaltet. Diese Architektur stellt sicher, dass private APIs innerhalb virtueller privater Clouds verbleiben und keine öffentlichen Endpunkte besitzen, wodurch der Identitätskontext außerhalb der Reichweite des LLM gehalten wird. Durch die Nutzung von Cedar-Richtlinien zur serverseitigen Autorisierung filtert MoEngage die Sichtbarkeit von Tools pro Agent vor der Serialisierung, um ein Überlaufen des Kontextfensters aufgrund großer Kataloge zu verhindern. Die Lösung nutzt zudem semantische Suche, damit Agenten Tools nach Absicht statt nach Namen entdecken können, was die Anfälligkeit bei API-Aktualisierungen verringert. Dieser zentralisierte Ansatz sparte geschätzt sechs Monate Ingenieursarbeit und reduzierte die Onboarding-Zeit für neue APIs von Tagen auf Stunden.
aws