Как Octave построил безопасную многопользовательскую ИИ-платформу на Amazon Bedrock
aws ·
Компания Octave Reliance создала безопасную многопользовательскую ИИ-платформу на базе Amazon Bedrock, чтобы раскрыть институциональную память для регулируемых отраслей без ущерба для изоляции данных. Команда отдала приоритет созданию горизонтальной платформы вместо отдельных функций, чтобы решить четыре ключевые проблемы: строгое разделение арендаторов, изолированное выполнение агентов, обработка недоверенных входных данных и высокоскоростное встраивание двух миллиардов документов. Используя Cohere Embed v4 для многоязычного и мультимодального поиска, система достигла значительной эффективности хранения при сохранении точности для различных типов документов. Безопасность обеспечивалась через Amazon Bedrock AgentCore, который использует выделенные микроВМ и передачу идентичности пользователя для предотвращения утечки данных между арендаторами. Кроме того, Amazon Bedrock Guardrails обеспечивали защиту «в глубину» от инъекций промптов и раскрытия конфиденциальной информации за счет фильтрации входных и выходных данных на нескольких этапах. В результате помощник по классификации жалоб сократил время расследования с часов до минут, автоматически формируя соответствующий исторический контекст для специалистов по качеству. Этот архитектурный подход сократил время развертывания новых ИИ-решений на 50 процентов, позволив Octave раньше срока внедрить возможности семантического поиска.
aws