主要来源vLLM
查看原文事件专题 · 多源确认
GLM-5.2 NVFP4格式在vLLM上线，内存减半精度不变
NVIDIA发布GLM-5.2的NVFP4检查点，在Blackwell GPU上相比FP8内存占用降低一半。该模型在推理、编码和长上下文基准测试中保持与FP8相同的准确率。用户可通过vLLM直接加载运行：vllm serve nvidia/GLM-5.2-NVFP4。
当前结论
想省显存又不想降精度？GLM-5.2的NVFP4版在vLLM上线了，比FP8省一半内存，推理编码长文本都稳。
5 个信源52° AI 热度最后更新 2026/6/27 05:54:45
证据链
相关来源 1LMSYS Org (SGLang)
查看原文相关来源 2Geek
查看原文相关来源 3AWS Machine Learning Blog
查看原文相关来源 4IT之家
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。