Quattro livelli di ingegneria del contesto per agenti AI in produzione: come Deep Insight li applica nel codice
aws ·
Questo articolo descrive un framework di ingegneria del contesto a quattro livelli per agenti AI in produzione, illustrato attraverso il sistema di analisi dati multi-agente Deep Insight, costruito su AWS. Il primo livello isola il contesto assegnando finestre indipendenti ad agenti specializzati, trasmettendo solo riepiloghi compressi tramite un dizionario di stato condiviso. Il secondo livello controlla l'ingresso del contesto utilizzando budget rigorosi dei token di output basati sui prompt e imponendo una filosofia di codice autocontenuta in cui gli script non dipendono da variabili precedenti. Il terzo livello esternalizza i contenuti pesanti nel filesystem, utilizzando uno strumento di scrittura ed esecuzione che riduce i token di contesto di circa il 95% e carica le competenze su richiesta per ridurre i prompt di sistema del 97%. Il quarto livello garantisce la qualità attraverso agenti di verifica come Validatori e Auditor, insieme a salvaguardie come un SummarizingConversationManager per gestire l'esaurimento del contesto. Queste tecniche collettivamente prevengono l'esaurimento della finestra di contesto, riducono i costi e mantengono l'accuratezza nelle attività complesse e a lungo termine. L'approccio sfrutta le funzionalità dell'SDK Strands Agents e di Amazon Bedrock AgentCore per implementare queste pratiche in modo efficiente.
aws