21:12
LMSYS Org (SGLang)@lmsysorg
LMSYS Org (SGLang)@lmsysorg精选
推荐理由：英伟达把GLM-5.2压缩成NVFP4，内存省一大截，推理编码在Blackwell上直接跑，SGLang第一时间就能用。
全部 AI 动态
AI 相关资讯全量信息流
6月27日
21:12
英伟达与智谱AI合作，发布了基于GLM-5.2的NVFP4量化检查点。该模型为744B参数混合专家架构（40B活跃参数），专注于推理和编码任务。NVFP4量化通过NVIDIA Model Optimizer实现，在降低内存占用的同时保持前沿推理性能。模型还支持稀疏注意力和IndexShare索引器，实现高效长上下文处理。目前已在Blackwell/Grace Blackwell上通过SGLang提供首日支持。
13:54
13:54
vLLM@vllm_project
vLLM@vllm_project精选
推荐理由：想省显存又不想降精度？GLM-5.2的NVFP4版在vLLM上线了，比FP8省一半内存，推理编码长文本都稳。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
6月9日
08:05
08:05
NVIDIA AI@NVIDIAAI
NVIDIA AI@NVIDIAAI精选72°
推荐理由：训练速度提升 1.3-1.7 倍且零精度损失，做大规模模型训练的团队可以直接在 Blackwell 上尝试 NVFP4，省时省成本。
5月30日
08:06
08:06
Julien Chaumond@julien_c
Julien Chaumond@julien_c推荐理由：NVIDIA 官方修复版解决了 DeepSeek-V4 在自家硬件上的精度和稳定性问题，用 NVIDIA GPU 做推理的团队可以直接拉取使用，省去自己调优的麻烦。
5月23日
05:18
05:18NVIDIA AI@NVIDIAAI
NVIDIA AI@NVIDIAAI72°
推荐理由：长视频生成一直受限于计算和内存瓶颈，NVIDIA 这次从系统层面给出了端到端方案。做视频生成模型训练或部署的团队，可以直接参考这套 NVFP4 对齐方法，提升效率。
5月19日
23:48
23:48
AK@_akhaliq
AK@_akhaliq精选
推荐理由：Nvidia 开源长视频生成框架