Запросы безопасности на естественном языке в Orca Security с использованием Amazon Bedrock
aws ·
Orca Security совместно с AWS разработала Discovery AI — агента для запросов на естественном языке, созданного на базе Amazon Bedrock и преобразующего вопросы простым текстом в структурированные запросы Sonar для облачной инфраструктуры. Это решение решает проблему сложности работы с более чем 900 облачными моделями, заменяя неэффективные начальные прототипы девятиэтапным гибридным конвейером, сочетающим генерацию с дополнением выборки (RAG) и построение с учетом схемы данных. Система распределяет специфические базовые модели, такие как Anthropic Claude Haiku 4.5 и Amazon Nova 2 Lite, по разным этапам, оптимизируя баланс между способностью к рассуждению и экономической эффективностью. Архитектура включает быстрый детерминированный matcher для паттернов с высокой уверенностью и процесс семантического поиска с использованием эмбеддингов Amazon Titan, которые переупорядочиваются моделью Cohere Rerank 3.5. Для обеспечения точности команда внедрила непрерывную систему разметки с участием человека (human-in-the-loop), позволяющую экспертам-предметникам исправлять выходные данные и улучшать банк примеров в реальном времени. Результаты эксплуатации демонстрируют значительные улучшения: снижение затрат на 90%, уменьшение количества входных токенов на 93% и сокращение задержек на 75% по сравнению с базовым уровнем. Discovery AI теперь обрабатывает тысячи ежедневных запросов, при этом время полного ответа сократилось с 60 секунд до всего 15 секунд. Этот кейс показывает, как агентные архитектуры и многомодельные стратегии могут сделать сложные данные безопасности доступными через интуитивно понятные интерфейсы на естественном языке.
aws