Postman如何在Amazon Bedrock上为4000万开发者运行Agent模式
aws ·
Postman 已成功利用 Amazon Bedrock 为其 4000 万开发者部署了 Agent Mode,解决了将 AI 集成到成熟产品中的复杂工程挑战。团队发现管理工具泛滥至关重要,因此实施了动态工具选择机制,限制模型仅查看相关工具,从而减少与大型工具集相关的错误。为提高效率,Postman 从创建大量单一用途工具转向提供基于模式的读取访问权限,允许代理通过类 SQL 命令直接查询结构化数据。上下文管理成为主要瓶颈,促使团队开发了专用的上下文处理器,以提炼实体信息而非序列化特定接口的数据模型。在基础设施方面,Amazon Bedrock 提供了关键能力,包括 Claude 系列模型的灵活性、处理流量突发的跨区域推理以及分层提示缓存以优化延迟和成本。企业安全性通过地理推理配置和零数据保留设置得以维持,确保符合严格的数据驻留要求。这些架构模式展示了团队如何通过将上下文和工具暴露视为稀缺资源,使生产级代理超越原型阶段。最终,该解决方案强调了将代理操作与 UI 状态解耦以及维护强大的检索增强生成(RAG)知识库的重要性。
aws