NVIDIA Nemotron 3.5 嵌入、重排与解析:以世界级检索模型推进智能体发展
huggingface ·
NVIDIA发布了Nemotron 3.5检索器系列,其中包括用于嵌入、重排序和文档解析的新开源模型,旨在增强企业级AI智能体。该套件包含8B和1B两种版本的Nemotron 3.5 Embed,其中1B版本提供NVFP4量化支持,可在NVIDIA硬件上实现高吞吐量推理。这些模型在ViDoRe v3等多模态检索基准测试中取得了最先进的性能,能够有效搜索文本、图表和表格内容。此外,Nemotron 3.5 Rerank模型通过减少约14%的令牌使用量并提高检索准确率,从而提升了智能体的效率。在文档处理方面,Nemotron 3.5 Parse能够从复杂的PDF中提取结构化内容,在ParseBench排行榜的子十亿参数模型类别中排名第一。来自Elastic、Vectorize和Perplexity等合作伙伴的初步评估显示,在长上下文和特定领域任务中,召回率和相关性均有显著提升。开发者可通过Hugging Face获取这些权重,或使用NVIDIA NIM进行生产级部署。
huggingface