Come MoEngage ha trasformato oltre 400 API in strumenti per agent con AgentCore Gateway
aws ·
MoEngage ha integrato con successo oltre 400 API REST interne in strumenti per agenti AI utilizzando Amazon Bedrock AgentCore Gateway, affrontando sfide significative in materia di sicurezza e scalabilità. L'azienda ha rifiutato l'approccio tradizionale di distribuire server individuali del Model Context Protocol (MCP) per ogni team, che avrebbe richiesto una vasta infrastruttura di rete e manutenzione su sette regioni AWS. Al contrario, ha stabilito un principio secondo cui i team di prodotto forniscono le specifiche OpenAPI mentre il team della piattaforma AI gestisce lo strato MCP end-to-end. Questa architettura garantisce che le API private rimangano all'interno di cloud privati virtuali senza endpoint pubblici, mantenendo il contesto dell'identità fuori dalla portata dei modelli linguistici di grandi dimensioni (LLM). Utilizzando politiche Cedar per l'autorizzazione lato server, MoEngage filtra la visibilità degli strumenti per agente prima della serializzazione, prevenendo il sovraccarico della finestra di contesto causato da cataloghi di grandi dimensioni. La soluzione impiega anche la ricerca semantica per consentire agli agenti di scoprire gli strumenti in base all'intento piuttosto che al nome, riducendo la fragilità durante gli aggiornamenti delle API. Questo approccio centralizzato ha fatto risparmiare circa sei mesi di impegno ingegneristico e ha ridotto il tempo di onboarding delle nuove API da giorni a ore.
aws