在 Orca Security 使用 Amazon Bedrock 进行自然语言安全查询
aws ·
Orca Security 与 AWS 合作开发了 Discovery AI,这是一个基于 Amazon Bedrock 的自然语言查询代理,可将普通文本问题转换为针对云基础设施的结构化 Sonar 查询。该解决方案通过采用结合检索增强生成(RAG)和模式感知构建的九阶段混合管道,取代了效率低下的初始原型,从而解决了查询超过 900 种云模型的复杂性。系统为不同阶段分配了特定基础模型(如 Anthropic Claude Haiku 4.5 和 Amazon Nova 2 Lite),以优化推理能力和成本效益。其架构包括用于高置信度模式的快速确定性匹配器,以及使用 Amazon Titan 嵌入并由 Cohere Rerank 3.5 进行重排的语义检索流程。为确保准确性,团队实施了持续的人机协作标注系统,允许领域专家实时纠正输出并改进示例库。生产结果表明,与基线相比,成本降低了 90%,输入令牌减少了 93%,延迟降低了 75%。Discovery AI 现在每天处理数千次查询,端到端响应时间从 60 秒缩短至仅 15 秒。该案例研究展示了智能体架构和多模型策略如何通过直观的自然语言界面使复杂的网络安全数据变得易于访问。
aws