Quatre couches d'ingénierie du contexte pour les agents IA en production : comment Deep Insight les applique dans le code
aws ·
Cet article présente un cadre d'ingénierie du contexte à quatre couches pour les agents IA en production, illustré par le système d'analyse de données multi-agents Deep Insight construit sur AWS. La première couche isole le contexte en attribuant des fenêtres indépendantes à des agents spécialisés, transmettant uniquement des résumés compressés via un dictionnaire d'état partagé. La deuxième couche contrôle l'afflux de contexte en imposant des budgets stricts de jetons de sortie basés sur les invites et en appliquant une philosophie de code autonome où les scripts ne dépendent pas des variables précédentes. La troisième couche externalise le contenu volumineux vers le système de fichiers, en utilisant un outil « écrire-et-exécuter » qui réduit les jetons de contexte d'environ 95 % et charge les compétences à la demande pour diminuer les invites système de 97 %. La quatrième couche garantit la qualité grâce à des agents de vérification tels que Validators et Auditors, ainsi qu'à des mécanismes de protection comme un SummarizingConversationManager pour gérer les débordements de contexte. Ces techniques préviennent collectivement l'épuisement de la fenêtre de contexte, réduisent les coûts et maintiennent la précision dans les tâches complexes et à long terme. Cette approche exploite les fonctionnalités du SDK Strands Agents et d'Amazon Bedrock AgentCore pour mettre en œuvre ces pratiques efficacement.
aws