#NVFP4

共 12 条 · 7 天 0 条 · 30 天 1 条

Qwen3.8-27B 2 SGLang 2 智能体 2 B300 1 DFlash2 1 Gated DeltaNet 1 GLM 5.2 1 GLM-5.2 1

信息流里打上「NVFP4」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月22日

模型 Agent 与开发者多源确认79°21:35

SGLang × Qwen × NVIDIA 三方合作：用 NVFP4 KV Cache 突破长上下文与 Agentic 推理瓶颈

SGLang、Qwen和NVIDIA联手推出NVFP4 KV Cache，4-bit精度下1.78倍容量提升，长上下文推理提速近80%。

#SGLang #Qwen #NVFP4 #KV Cache

shao__meng@shao__meng9 个信源在谈原文

9月4日

论文精选73°11:22

Gated DeltaNet在4位量化中保持性能的机制研究

Minima团队把Qwen3.8-27B全量化到4位，性能不变还更小更快，揭秘了混合模型递归部分为什么好量化。

#Gated DeltaNet #Qwen3.8-27B #NVFP4 #量化

arXiv cs.AI@Sergii Kozyrev, Davyd Maiboroda2 个信源在谈原文

8月21日

模型中美对照多源确认精选17:08

Qwen3.8-27B 新食谱发布：NVFP4 + DFlash2

Qwen3.8-27B 新食谱发布，NVFP4 + DFlash2 融入，探索新起点！

#Qwen3.8-27B #NVFP4 #DFlash2 #智能体

官方账号阿里通义 Qwen@Alibaba_Qwen4 个信源在谈原文

7月24日

模型中美对照00:45

Kimi MoonViT视觉编码器挂载GLM 5.2，开源NVFP4量化权重

有人把Kimi的视觉编码器接到GLM 5.2上，开源了量化权重，让GLM 5.2能看图片了。这种插件式玩法很实用。

#Kimi #GLM 5.2 #MoonViT #NVFP4

berryxia@berryxia原文

7月16日

模型中美对照73°21:16

SGLang在8xB300上以500 TPS服务GLM5.2 NVFP4 Agentic工作负载

SGLang让GLM5.2在B300上单用户跑500 tok/s，交互延迟几乎不随上下文增长，对多轮Agent任务很实用。

#GLM-5.2 #SGLang #B300 #NVFP4

官方账号LMSYS Org (SGLang)@lmsysorg原文

6月27日

模型中美对照多源确认精选21:12

英伟达发布GLM-5.2 NVFP4量化版，744B MoE推理编码模型

英伟达把GLM-5.2压缩成NVFP4，内存省一大截，推理编码在Blackwell上直接跑，SGLang第一时间就能用。

#GLM-5.2 #NVFP4 #NVIDIA #SGLang

官方账号LMSYS Org (SGLang)@lmsysorg6 个信源在谈原文

模型中美对照多源确认精选13:54

GLM-5.2 NVFP4格式在vLLM上线，内存减半精度不变

想省显存又不想降精度？GLM-5.2的NVFP4版在vLLM上线了，比FP8省一半内存，推理编码长文本都稳。

#GLM-5.2 #NVFP4 #vLLM #NVIDIA

官方账号vLLM@vllm_project5 个信源在谈原文

6月9日

模型中美对照多源确认精选72°08:05

NVIDIA Blackwell 平台用 NVFP4 精度训练 Llama 3 8B/405B，速度提升 1.31-1.73 倍且零精度损失

训练速度提升 1.3-1.7 倍且零精度损失，做大规模模型训练的团队可以直接在 Blackwell 上尝试 NVFP4，省时省成本。

#NVIDIA #Blackwell #NVFP4 #Llama 3

官方账号NVIDIA AI@NVIDIAAI5 个信源在谈原文

5月30日

模型中美对照多源确认08:06

NVIDIA 发布 DeepSeek-V4-Pro-NVFP4 修复版

NVIDIA 官方修复版解决了 DeepSeek-V4 在自家硬件上的精度和稳定性问题，用 NVIDIA GPU 做推理的团队可以直接拉取使用，省去自己调优的麻烦。

#DeepSeek-V4 #NVIDIA #NVFP4 #模型修复

Julien Chaumond@julien_c6 个信源在谈原文

5月23日

模型中美对照多源确认72°05:18

NVIDIA Research 发布 LongLive-2.0：长视频生成系统方案

长视频生成一直受限于计算和内存瓶颈，NVIDIA 这次从系统层面给出了端到端方案。做视频生成模型训练或部署的团队，可以直接参考这套 NVFP4 对齐方法，提升效率。

#NVIDIA #长视频生成 #NVFP4 #训练推理系统

官方账号NVIDIA AI@NVIDIAAI3 个信源在谈原文

5月19日

产品中美对照多源确认精选23:48

Nvidia 发布 LongLive-2.0 长视频生成并行基础设施

Nvidia 开源长视频生成框架

#Nvidia #LongLive-2.0 #NVFP4 #视频生成

AK@_akhaliq4 个信源在谈原文

5月13日

论文精选19:12

ScaleSearch：搜索块浮点缩放因子，提升量化精度

做模型量化和推理加速的团队终于有了更优的缩放策略——ScaleSearch直接提升精度且兼容现有方法，建议做低精度部署的开发者试试。

#量化 #块浮点 #NVFP4 #后训练量化

arXiv cs.LG@Tanmaey Gupta 等 13 人原文