Event ·Official first-hand

NVIDIA 发布 Nemotron-Labs-Sigma:3B/8B 连续扩散语言模型

NVIDIA 发布 Nemotron-Labs-Sigma,一次性放出 14 个开源检查点,规格为 3B 和 8B 两种。这是语言建模路线上的新尝试:不同于 GPT 类模型逐 token 生成,Sigma 采用连续扩散方式生成文本。 技术上,Sigma 在一个学习得到的 16 维嵌入空间中对文本做去噪,并通过蒸馏得到少步采样器,解码速度最高达到自回归解码的 4.20 倍。这意味着在同等硬件下可以更快拿到生成结果,尤其适合对吞吐要求高的场景。 扩散语言模型此前多见于学术研究,NVIDIA 以开源检查点的形式将其工程化,给了开发者一个可与自回归开源模型对比的新选项,3B/8B 的规模也便于在消费级硬件上实测。

Current read

NVIDIA 把扩散式文本生成做成了能用的开源模型,3B/8B 共 14 个检查点随便下。解码比自回归快到 4.20 倍,做推理加速、本地部署的值得实测对比一下。

11 sources66° AI heatLast updated 2026/11/20 14:44:52

Evidence

11 sources
Primary sourcemarktechpost
View source
Related source 1NVIDIA AI
View source
Related source 5The Information
View source
Related source 7CoreWeave
View source
Related source 8The Straits Times: Business
View source
Related source 10AWS Machine Learning Blog
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.