英伟达发了三个检索模型，8B 版直接登顶 RTEB 榜首，适合做 RAG 和智能体，还能省 token。
英伟达开源推出 Nemotron 3 Embed 系列，包含 8B、1B 及 1B-NVFP4 三个版本，均支持商业使用。8B 版在 RTEB 基准上以 78.5% 得分排名第一，在 MMTEB 检索中得分 75.5%。该系列配备 32K 上下文窗口，专为 AI 智能体和 RAG 场景优化，可减少重复检索并降低 Token 消耗。1B 版通过蒸馏获得，1B-NVFP4 面向 Blackwell 架构优化，吞吐量最高提升 2 倍。
英伟达发布 Nemotron 3 Embed 系列 AI 模型，8B 版斩获 RTEB 榜首
IT之家 7 月 18 日消息，英伟达昨日（7 月 17 日）发布博文， 宣布开源推出 Nemotron 3 Embed 系列模型，主要面向 AI 智能体和检索增强生成（RAG）场景。 该系列以开放权重形式发布，支持商业使用，目前已通过 Hugging Face 与 NVIDIA NIM 免费提供。 Nemotron 3 Embed 配备 32K 上下文窗口，可执行高精度检索。NVIDIA 称，这一设计可减少 AI 智能体重复检索，压低不必要的推理触发频率，并显著降低 Token 消耗量。 英伟达针对不同部署环境，同步公开微调和蒸馏版本，覆盖精度优先、成本与时延优先，以及针对特定 GPU 架构优化的使用需求，推出 3 个模型版本： Nemotron-3-Embed-8B-BF16 模型为系列为最高规格版本，参数规模为 80 亿。英伟达称，该模型适合对精度要求较高、且伴随较高风险的企业业务场景。该模型基于 Ministral-3-8B-Instruct-2512 构建。 Nemotron-3-Embed-1B-BF16 为高效率版本，参数规模为 11.4 亿。NVIDIA 称，该模型适合重视时延与成本的部署环境。该模型由基于 Ministral-3-3B-Instruct-2512 的父模型蒸馏得到。 Nemotron-3-Embed-1B-NVFP4 则是在高效率版基础上，面向 Blackwell 架构 GPU 优化的版本。原文称，借助 NVFP4，该模型在维持与高效率版相同检索精度的同时，可进一步降低内存占用，并将吞吐量最高提升至 2 倍。 性能方面，Nemotron-3-Embed-8B-BF16 在 RTEB 跑分上斩获第一，得分 78.5%，在 MMTEB 检索中得分 75.5%。 IT之家注：RTEB （ Retrieval Embedding Benchmark ，检索嵌入基准）是由 Hugging Face 团队及 MTEB（海量文本嵌入基准）社区推出的新型检索与嵌入模型评估标准。它专为评估大模型在真实场景（如 RAG 系统和智能体）中的实际检索质量而设计。