Requêtes de sécurité en langage naturel chez Orca Security avec Amazon Bedrock
aws ·
Orca Security a collaboré avec AWS pour développer Discovery AI, un agent de requêtes en langage naturel construit sur Amazon Bedrock qui traduit des questions en texte brut en requêtes Sonar structurées pour l'infrastructure cloud. Cette solution répond à la complexité liée à l'interrogation de plus de 900 modèles cloud en remplaçant les prototypes initiaux inefficaces par un pipeline hybride en neuf étapes combinant la Génération Augmentée par Récupération (RAG) et une construction consciente du schéma. En attribuant des modèles de base spécifiques, tels qu'Anthropic Claude Haiku 4.5 et Amazon Nova 2 Lite, à différentes étapes, le système optimise à la fois la capacité de raisonnement et l'efficacité coûts. L'architecture comprend un correspondant déterministe rapide pour les motifs à haute confiance et un processus de récupération sémantique utilisant des embeddings Amazon Titan rerankés par Cohere Rerank 3.5. Pour garantir l'exactitude, l'équipe a mis en place un système continu d'étiquetage humain dans la boucle, permettant aux experts du domaine de corriger les sorties et d'améliorer la banque d'exemples en temps réel. Les résultats en production démontrent des améliorations significatives, notamment une réduction des coûts de 90 %, une diminution de 93 % des jetons d'entrée et une baisse de 75 % de la latence par rapport à la référence. Discovery AI traite désormais des milliers de requêtes quotidiennes, avec des temps de réponse de bout en bout réduits de 60 secondes à seulement 15 secondes. Cette étude de cas met en évidence comment les architectures agentic et les stratégies multi-modèles peuvent rendre les données de sécurité complexes accessibles via des interfaces intuitives en langage naturel.
aws