主要来源karminski-牙医 (AI工具)
查看原文事件专题 · 多源确认
单卡700TPS!Google发布Diffusion Gemma,26B模型4B激活
Google发布了Gemma小模型的Diffusion版本,名为Diffusion Gemma,大小26B但激活参数量仅4B。与NVIDIA合作针对RTX 4090和5090优化,5090上每秒可生成700+ token。Diffusion模型像刮奖一样逐片生成文本,速度远快于传统逐字生成模型,但输出质量略低。在AIME 2026数学测试中达到Gemma4-26B-A4B的94%水平,在Agent能力测试中达到82%。4bit量化版本仅需16G显存即可运行。
当前结论
Diffusion Gemma把文本生成速度拉到单卡700TPS,做实时对话或高吞吐推理的团队可以直接用,4bit量化16G显存就能跑,值得试试能否做投机解码的草稿模型。
11 个信源63° AI 热度最后更新 2026/6/12 04:31:08
证据链
相关来源 1NVIDIA AI
查看原文相关来源 2LMSYS Org (SGLang)
查看原文相关来源 3vLLM
查看原文相关来源 4Sundar Pichai
查看原文相关来源 5Philipp Schmid
查看原文相关来源 6Decoder
查看原文相关来源 7Simon Willison’s Weblog
查看原文相关来源 8SiliconFlowAI
查看原文相关来源 9rohanpaul_ai
查看原文相关来源 10Tri Dao (FlashAttention)
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。