Box nutzt Nvidias Nemotron für ein neues agentenbasiertes Inhaltabrufsystem
techcrunch ·
Box hat eine neue Funktion namens Box Content Retrieval angekündigt, die das Nemotron-Embedding-System von Nvidia direkt in sein Kernprodukt integriert. Dieses Update soll die Fähigkeit von KI-Agenten, Benutzeranfragen zu beantworten, erheblich verbessern, indem es auf eingebettete Metadaten statt auf das Scannen ganzer Dokumente zurückgreift. Laut Angaben von Nvidia-Führungskräften wird diese Integration voraussichtlich dazu führen, dass Anfragen viermal schneller beantwortet werden, die Fehlerquote um 20 % sinkt und der Token-Verbrauch um 90 % reduziert wird. Das System nutzt Open-Weight-Modelle, die zugrunde liegende Konzepte abbilden, was eine genauere Suche auch bei unterschiedlicher Wortwahl oder Sprache ermöglicht. Box-Chef Aaron Levie betonte, dass dieser Ansatz die Suchrelevanz für Agenten drastisch steigert, indem nur die relevantesten Dokumentausschnitte zurückgegeben werden. Die Funktion steht allen Enterprise-Advance-Kunden ab Anfang nächsten Jahres zur Verfügung. Obwohl die Nemotron-Modelle quelloffen sind, hebt Box hervor, dass die einzigartige Kombination aus vorhandenen Metadaten und Berechtigungskontrollen das System schwer reproduzierbar macht.
techcrunch