Quatro camadas de engenharia de contexto para agentes de IA em produção: como a Deep Insight as aplica no código
aws ·
Este artigo apresenta um framework de engenharia de contexto em quatro camadas para agentes de IA em produção, demonstrado por meio do sistema multiagente de análise de dados Deep Insight, construído na AWS. A primeira camada isola o contexto atribuindo janelas independentes a agentes especializados, transmitindo apenas resumos compactados por meio de um dicionário de estado compartilhado. A segunda camada controla o fluxo de entrada de contexto utilizando orçamentos rigorosos de tokens de saída baseados em prompts e aplicando uma filosofia de código autocontido, na qual os scripts não dependem de variáveis anteriores. A terceira camada externaliza conteúdo pesado para o sistema de arquivos, empregando uma ferramenta de gravação e execução que reduz os tokens de contexto em aproximadamente 95% e carrega habilidades sob demanda, diminuindo os prompts do sistema em 97%. A quarta camada garante a qualidade por meio de agentes de verificação, como Validadores e Auditores, além de mecanismos de proteção, como um SummarizingConversationManager, para lidar com transbordamento de contexto. Essas técnicas previnem coletivamente o esgotamento da janela de contexto, reduzem custos e mantêm a precisão em tarefas complexas e de longo prazo. A abordagem utiliza recursos do Strands Agents SDK e do Amazon Bedrock AgentCore para implementar essas práticas de forma eficiente.
aws