英伟达正式推出 NVIDIA Nemotron 3 Embed 系列开源嵌入模型，旨在提升检索增强生成（RAG）、智能体检索及代码检索的质量与效率。该系列包含三款模型，在精度与效率平衡上达到行业先进水平，其中 8B 参数模型在 RTEB 排行榜中位列第一。

模型矩阵：兼顾精度与生产级部署

Nemotron 3 Embed 系列针对不同应用场景提供了三种变体：

Nemotron-3-Embed-8B-BF16：旗舰级模型，RTEB 榜单排名第一，适用于对精度要求极高的高风险企业级 RAG 应用。

Nemotron-3-Embed-1B-BF16：高效标准版，专为对成本和延迟敏感的生产环境打造，兼顾性能与资源占用。

Nemotron-3-Embed-1B-NVFP4：针对 NVIDIA Blackwell 架构优化的硬件加速变体，以极低内存占用实现高吞吐量，适用于超大规模基础设施。

核心特性与技术优势

除卓越的基准测试表现外，该系列还具备以下企业级特性：

开放生态：提供开放权重、数据集及训练配方，支持企业在自有基础设施上进行微调与部署。

长上下文支持：拥有 32k 上下文窗口，有效处理长文档、大型代码库及多轮智能体历史记录，减少信息截断。

多语言与代码检索：支持全球企业数据、技术文档及多文件代码仓库的跨语言检索。

NVFP4 高效能：针对 Blackwell 优化的 4 位量化路径，在保持小内存占用的同时实现高吞吐量。

无缝集成：已在 Hugging Face 上线，支持 NVIDIA NIM 微服务部署及 vLLM，并通过主流 AI 云平台提供访问。

基准评估：检索质量与智能体效率双升

在 RTEB 基准测试中，Nemotron-3-Embed-8B-BF16 以 78.5% 的得分率位居榜首，在 MMTEB Retrieval 上得分率为 75.5%。1B BF16 变体则在缩小规模的同时保留了大部分检索质量，RTEB 得分为 72.4%，相比前代 1B 模型错误率降低 27%。

在智能体工作流评估中，更优质的检索能力显著降低了下游 Token 成本。使用 Nemotron 3 Ultra 驱动的搜索智能体测试显示，Nemotron 3 Embed 模型能更早返回相关证据，减少重复搜索与推理轮次。在 ViDoRe V3、BRIGHT 和 BrowseComp-Plus 基准测试中，8B 模型实现了最高的平均检索准确率与最低的估计下游 Token 成本。

针对高吞吐量场景，1B NVFP4 变体在 Blackwell 架构上的吞吐量比 BF16 高出多达 2 倍，同时保持了 BF16 版本 99% 以上的检索准确率。

架构演进：从 8B 教师模型到 1B 高效变体

Nemotron-3-Embed-8B-BF16 基于 Ministral-3-8B-Instruct 骨干网络，通过转换为双向编码器并经过多领域多语言数据微调而成。1B 变体并非从零训练，而是通过结构化剪枝与蒸馏技术压缩而来：

利用 NVIDIA ModelOpt 将 3B 基础模型压缩至 2B 中间规模。

通过量化感知蒸馏（QAD）从 8B 教师模型恢复排序准确率。

再次执行剪枝与蒸馏，将 2B 模型压缩至最终的 1.14B 嵌入模型，并通过两阶段上下文扩展调度，使其在长输入中保持判别性召回能力。

产业界评估与合作

包括 Automation Anywhere、Boomi、IBM、Mem0、Palantir、ServiceNow、turbopuffer、You.com、Zep 和 Zoom 在内的多家企业正在评估或集成 Nemotron 3 Embed。早期反馈显示，该模型在提升智能体准确性、降低延迟及优化存储成本方面表现优异。例如，Zep 的内部基准测试表明，Nemotron 3 Embed 1B 在所有记忆检索任务中排名第一；You.com 指出替换为该模型后，重排序堆栈性能显著飞跃。

开发者入门

开发者可通过 Hugging Face 获取模型权重与示例代码，或通过 build.nvidia.com 访问优化的 NIM 微服务。此外，英伟达开源了 NVIDIA NeMo AutoModel 训练配方，支持领域适配微调与模型蒸馏。实测数据显示，在 NV Docs 评估中，微调后的 Nemotron-3-Embed-1B-BF16 将 NDCG@10 提升了 11.6%。

【星途科讯 图文丨 Patrick 首发于 ZAKER 科技，转载请注明出处】