Consultas de seguridad en lenguaje natural en Orca Security usando Amazon Bedrock
aws ·
Orca Security colaboró con AWS para desarrollar Discovery AI, un agente de consultas en lenguaje natural basado en Amazon Bedrock que traduce preguntas en texto plano a consultas estructuradas de Sonar para infraestructura en la nube. Esta solución aborda la complejidad de consultar más de 900 modelos de nube mediante la sustitución de prototipos iniciales ineficientes por una canalización híbrida de nueve etapas que combina Generación Aumentada por Recuperación (RAG) y construcción consciente del esquema. Al asignar modelos base específicos como Anthropic Claude Haiku 4.5 y Amazon Nova 2 Lite a distintas etapas, el sistema optimiza tanto la capacidad de razonamiento como la eficiencia de costos. La arquitectura incluye un emparejador determinista rápido para patrones de alta confianza y un proceso de recuperación semántica utilizando incrustaciones de Amazon Titan reordenadas por Cohere Rerank 3.5. Para garantizar la precisión, el equipo implementó un sistema continuo de etiquetado humano en el ciclo que permite a los expertos del dominio corregir las salidas y mejorar el banco de ejemplos en tiempo real. Los resultados en producción muestran mejoras significativas, incluyendo una reducción del 90 % en los costos, una disminución del 93 % en los tokens de entrada y una caída del 75 % en la latencia en comparación con la línea base. Discovery AI ahora procesa miles de consultas diarias, reduciendo los tiempos de respuesta de extremo a extremo de 60 segundos a solo 15 segundos. Este estudio de caso destaca cómo las arquitecturas agénticas y las estrategias multimodelo pueden hacer accesibles los datos de seguridad complejos a través de interfaces intuitivas de lenguaje natural.
aws