Natürlichsprachige Sicherheitsabfragen bei Orca Security mit Amazon Bedrock
aws ·
Orca Security hat in Zusammenarbeit mit AWS Discovery AI entwickelt, einen Agenten für natürliche Sprachabfragen, der auf Amazon Bedrock basiert und einfache Textfragen in strukturierte Sonar-Abfragen für Cloud-Infrastrukturen übersetzt. Diese Lösung adressiert die Komplexität der Abfrage von über 900 Cloud-Modellen, indem ineffiziente Anfangsprototypen durch eine neunstufige hybride Pipeline ersetzt werden, die Retrieval-Augmented Generation (RAG) und schema-bewusste Konstruktion kombiniert. Durch die Zuweisung spezifischer Foundation Models wie Anthropic Claude Haiku 4.5 und Amazon Nova 2 Lite an verschiedene Stufen optimiert das System sowohl die reasoning-Fähigkeiten als auch die Kosteneffizienz. Die Architektur umfasst einen schnellen deterministischen Matcher für hochvertrauenswürdige Muster sowie einen semantischen Abrufprozess unter Verwendung von Amazon Titan Embeddings, die von Cohere Rerank 3.5 neu gewichtet werden. Um die Genauigkeit zu gewährleisten, implementierte das Team ein kontinuierliches Human-in-the-Loop-Labeling-System, das es Domänenexperten ermöglicht, Ausgaben zu korrigieren und die Beispielbank in Echtzeit zu verbessern. Die Produktionsergebnisse zeigen erhebliche Verbesserungen, darunter eine Kostenreduzierung um 90 Prozent, eine Verringerung der Eingabetokens um 93 Prozent und eine Latenzsenkung um 75 Prozent im Vergleich zur Basislinie. Discovery AI verarbeitet nun täglich Tausende von Abfragen, wobei die End-to-End-Antwortzeiten von 60 Sekunden auf lediglich 15 Sekunden reduziert wurden. Dieses Fallstudie verdeutlicht, wie agentic Architekturen und Multi-Model-Strategien komplexe Sicherheitsdaten durch intuitive Schnittstellen für natürliche Sprache zugänglich machen können.
aws