Cómo MoEngage convirtió más de 400 API en herramientas para agentes con AgentCore Gateway
aws ·
MoEngage integró con éxito más de 400 API REST internas en herramientas para agentes de IA mediante Amazon Bedrock AgentCore Gateway, abordando importantes desafíos de seguridad y escalabilidad. La empresa rechazó el enfoque tradicional de implementar servidores individuales del Protocolo de Contexto de Modelos (MCP) para cada equipo, lo que habría requerido una red y un mantenimiento extensos en siete regiones de AWS. En su lugar, establecieron un principio donde los equipos de producto proporcionan especificaciones OpenAPI, mientras que el equipo de la plataforma de IA gestiona la capa MCP de extremo a extremo. Esta arquitectura garantiza que las API privadas permanezcan dentro de nubes privadas virtuales sin puntos finales públicos, manteniendo el contexto de identidad fuera del alcance del modelo de lenguaje grande (LLM). Al utilizar políticas Cedar para la autorización del lado del servidor, MoEngage filtra la visibilidad de las herramientas por agente antes de la serialización, evitando el desbordamiento de la ventana de contexto debido a catálogos grandes. La solución también emplea búsqueda semántica para permitir que los agentes descubran herramientas por intención en lugar de por nombre, reduciendo la fragilidad durante las actualizaciones de las API. Este enfoque centralizado ahorró aproximadamente seis meses de esfuerzo de ingeniería y redujo el tiempo de incorporación de nuevas API de días a horas.
aws