AITOP

扩散语言模型

共 12 条相关 AI 资讯
7月3日
13:27
7月2日
03:52
7月1日
16:15
6月30日
10:03
10:03官方账号arXiv cs.LG@Gagan Jain
扩散语言模型(DLM)通常在固定上下文结构下训练，限制去噪到预定token子集，这导致训练与推理不匹配（模型需在任意配置下运行，训练网格外表现下降）。提出的Adaptive Block Diffusion (ABD)通过优化前缀窗口配置分布上的去噪风险来消除此不匹配，将配置视为随机变量，无需架构修改即可在全配置空间训练单一模型。实验表明ABD在不同解码尺度下保持结构一致性，避免离网格崩溃，恢复块大小与困惑度之间的单调关系，并在目标尺度上匹配或超越固定块专家。
论文ABD扩散语言模型训练-推理不匹配推理生成
推荐理由：这篇论文解决了扩散语言模型在训练和推理时配置不一致的痛点，用ABD方法在多种配置下训练一个模型就能通用，不用再为不同解码策略分别训练了。
原文
6月27日
15:54
6月23日
00:23
6月12日
12:10
12:10官方账号vLLM@vllm_project
精选73°
GoogleDeepMind 推出了 DiffusionGemma，这是一个基于 Gemma4 架构的 26B 参数扩散语言模型（dLLM），并成为 vLLM 原生支持的首个扩散语言模型。与传统自回归模型逐个生成 token 不同，DiffusionGemma 能并行去噪 256 个 token 的块，在单张 H200（FP8）上以 batch size 1 实现超过 1200 输出 token/秒的吞吐量。该模型通过 vLLM 的 model runner v2 的 ModelState 和现有推测解码路径实现，对调度器和运行器改动极小。FP8 和 NVFP4 检查点已托管在 RedHat AI 中心，由 GoogleDeepMind、RedHat AI 和 NVIDIA AI 团队合作完成。这一进展标志着扩散模型在高效文本生成领域迈出重要一步。
AI模型扩散语言模型vLLMGoogleDeepMind并行生成推理加速
推荐理由：DiffusionGemma 用并行去噪替代逐 token 生成，大幅提升推理速度，做大规模文本生成或实时应用的团队可以直接在 vLLM 中体验，值得关注。
原文
6月5日
12:10
12:10官方账号arXiv cs.AI@Paul Jünger, Justin Lovelace, Linxi Zhao, Dongyoung Go, Kilian Q. Weinberger
精选
离散扩散语言模型通过并行去噪生成文本，每一步会预测掩码位置的候选词，并丢弃低置信度的预测。研究者发现这些丢弃的token实际上包含有用的前瞻信号，能提前揭示关键实体，从而在输出最终确定前检索到更强证据。基于此，他们提出了SARDI（自增强检索扩散语言模型），一种无需训练、与检索器无关的动态RAG框架。在五个多跳问答基准测试中，SARDI以高达8倍的吞吐量超越了当前无需训练的扩散和自回归检索基线。
论文扩散语言模型检索增强生成多跳问答SARDI无需训练
推荐理由：SARDI巧妙利用了扩散模型去噪过程中的“废料”token，为RAG提供了一种零成本的前瞻信号，做问答系统或检索增强生成的团队值得关注，可以直接集成到现有扩散模型中提升效果。
原文
6月2日
12:00
12:00官方账号arXiv cs.AI@Junxia Cui, Haotian Ye, Runchu Tian, Hongcan Guo, Jinya Jiang, Haoru Li, Chaojie Ren, Yiming Huang, Kaijie Zhu, Zhongkai Yu, Kun Zhou, Jingbo Shang
精选
扩散大语言模型（dLLMs）作为自回归（AR）模型的替代方案，通过并行或块解码实现更快推理，但其掩码语言建模公式与标准token级推测解码不兼容。AR模型利用因果掩码实现单次前向验证多个草稿token，而dLLMs依赖掩码token和双向注意力，导致有效上下文随去噪步骤变化，无法直接进行token级推测验证。为此，研究者提出SimSD，一种简单有效的推测解码算法，采用即插即用的掩码策略，为dLLMs提供时间上有效的token级上下文。该方法显式引入草稿模型的参考token，并设计注意力掩码调节其与当前步骤token的交互，使dLLMs能在单次前向前向计算草稿token的有效logits，恢复AR模型的验证能力同时保持dLLMs的并行解码优势。SimSD无需训练，可灵活集成KV缓存和块解码等加速技术，在四个基准测试中实现高达7.46倍的解码吞吐量提升，同时保持甚至改善平均生成质量。
论文推测解码扩散语言模型推理加速掩码策略训练无关
推荐理由：扩散语言模型终于有了实用的推测解码方案，做模型推理加速的团队可以直接集成SimSD，无需额外训练就能获得数倍吞吐提升，值得关注。
原文
09:37
09:37官方账号arXiv cs.AI@Longxuan Yu, Yunshu Wu, Yu Fu, Siheng Xiong, Rob Brekelmans, Hui Liu, Yue Dong, Greg Ver Steeg
72°
离散掩码扩散语言模型在少步解码时面临长度与质量的权衡：固定步数下，要么生成短而高质量的输出，要么生成长但重复的文本。连续去噪通过在嵌入空间联合演化所有位置来规避此问题，但大规模从头构建此类模型仍是难题。本文证明，预训练的掩码DLM可轻量适配以支持连续嵌入空间去噪：从LLaDA-8B-Instruct出发，仅用1000步继续预训练（离散随机定位DSL），将二元掩码替换为连续逐token高斯噪声作为软掩码。适配后的模型支持连续推理，在嵌入空间联合演化所有位置，并在最后一步才做出硬token承诺。在低步数（≤16次前向传播）的零样本摘要任务中，DSL-LLaDA-SDE在所有四个基准上取得最佳ROUGE-1，并大幅避免了迭代去掩码的提前终止/重复权衡。该适配还带来选择性噪声状态鲁棒性：模型能纠正被破坏的token，同时保留干净的token。对照实验表明，使用相同计算量的标准掩码扩散训练无法产生这两种行为。
论文扩散语言模型连续去噪LLaDA零样本摘要噪声鲁棒性
推荐理由：这项研究解决了扩散语言模型在少步解码时的质量-长度权衡问题，做文本生成或摘要的开发者可以直接用DSL-LLaDA获得更好的零样本效果，值得关注。
原文
5月19日
11:07
11:07官方账号arXiv cs.LG@Junyi Wu, Tianchen Zhao, Shaoqiu Zhang, Linfeng Zhang, Guohao Dai, Yu Wang
精选
扩散语言模型（dLLM）通过联合去噪一批[MASK]令牌实现并行解码，但大块掩码令牌导致大量计算冗余。研究发现，许多计算花费在重复处理前文上下文和特征表示相同的[MASK]令牌上。为此，提出位置保持的[MASK]令牌压缩和终端感知增强方法，通过压缩冗余计算加速解码，并自然扩展到长上下文场景。在LLaDA-8B-Instruct和LLaDA-1.5等全序列dLLM上验证了效果，对LLaDA2.0-mini等块dLLM，通过保护终端[MASK]令牌增强上下文，以极小开销提升生成质量。
论文扩散语言模型上下文压缩并行解码LLaDA计算冗余
推荐理由：扩散LLM的并行解码效率一直是痛点，这篇工作直接戳中计算冗余的核心，做模型推理加速或长上下文应用的开发者值得关注，压缩方法可以直接集成到现有dLLM中。
原文
5月17日
01:23