Consultas de segurança em linguagem natural na Orca Security usando o Amazon Bedrock
aws ·
A Orca Security colaborou com a AWS para desenvolver o Discovery AI, um agente de consultas em linguagem natural construído sobre o Amazon Bedrock que traduz perguntas em texto simples em consultas estruturadas do Sonar para infraestrutura em nuvem. Esta solução aborda a complexidade de consultar mais de 900 modelos de nuvem, substituindo protótipos iniciais ineficientes por um pipeline híbrido de nove etapas que combina Geração Aumentada por Recuperação (RAG) e construção consciente do esquema. Ao alocar modelos fundamentais específicos, como Anthropic Claude Haiku 4.5 e Amazon Nova 2 Lite, para diferentes etapas, o sistema otimiza tanto a capacidade de raciocínio quanto a eficiência de custos. A arquitetura apresenta um correspondente determinístico rápido para padrões de alta confiança e um processo de recuperação semântica usando embeddings da Amazon Titan, reclassificados pelo Cohere Rerank 3.5. Para garantir precisão, a equipe implementou um sistema contínuo de rotulagem com intervenção humana (human-in-the-loop), permitindo que especialistas do domínio corrijam as saídas e melhorem o banco de exemplos em tempo real. Os resultados em produção demonstraram melhorias significativas, incluindo uma redução de 90% nos custos, uma diminuição de 93% nos tokens de entrada e uma queda de 75% na latência em comparação com a linha de base. O Discovery AI agora processa milhares de consultas diárias, com tempos de resposta de ponta a ponta reduzidos de 60 segundos para apenas 15 segundos. Este estudo de caso destaca como arquiteturas agênticas e estratégias multimodelo podem tornar os dados de segurança complexos acessíveis por meio de interfaces intuitivas de linguagem natural.
aws