Box использует Nemotron от Nvidia для новой системы извлечения контента, ориентированной на агентов
techcrunch ·
Box анонсировал новую функцию Box Content Retrieval, которая интегрирует систему эмбеддингов Nvidia Nemotron непосредственно в свой основной продукт. Это обновление призвано значительно улучшить способность ИИ-агентов отвечать на запросы пользователей за счет использования встроенных метаданных вместо сканирования целых документов. По словам руководителей Nvidia, эта интеграция должна ускорить обработку запросов в четыре раза, снизить количество ошибок на 20% и сократить использование токенов на 90%. Система использует модели с открытыми весами, которые отображают лежащие в основе концепции, что позволяет осуществлять более точный поиск даже при использовании различных формулировок или языков. Генеральный директор Box Аарон Левье отметил, что такой подход кардинально повышает релевантность поиска для агентов, возвращая только наиболее значимые фрагменты документов. Функция станет доступна всем клиентам Enterprise Advance начиная с начала следующего года. Хотя модели Nemotron являются открытым исходным кодом, Box подчеркивает, что уникальное сочетание существующих метаданных и контроля разрешений делает эту систему сложной для самостоятельного воспроизведения.
techcrunch