Четыре слоя контекстного инжиниринга для производственных ИИ-агентов: как Deep Insight применяет их в рабочем коде
aws ·
В статье описывается четырехуровневая структура контекстной инженерии для производственных ИИ-агентов, проиллюстрированная на примере многоагентной системы анализа данных Deep Insight, разработанной на базе AWS. Первый уровень изолирует контекст путем назначения независимых окон специализированным агентам и передачи только сжатых сводок через общий словарь состояний. Второй уровень контролирует приток контекста с помощью строгих бюджетов токенов вывода на основе промптов и соблюдения принципа самодостаточности кода, при котором скрипты не зависят от предыдущих переменных. Третий уровень выносит тяжелые данные в файловую систему, используя инструмент «записать и выполнить», который сокращает количество контекстных токенов примерно на 95 %, а также загружает навыки по требованию, уменьшая системные промпты на 97 %. Четвертый уровень обеспечивает качество благодаря агентам проверки, таким как Validators и Auditors, а также средствам защиты, включая SummarizingConversationManager для обработки переполнения контекста. Эти методы в совокупности предотвращают исчерпание окна контекста, снижают затраты и поддерживают точность при выполнении сложных задач с длительным горизонтом планирования. Подход использует возможности Strands Agents SDK и Amazon Bedrock AgentCore для эффективной реализации этих практик.
aws