并行解码相关 AI 资讯

6月16日

10:37

官方账号arXiv cs.LG@Tamim Zoabi, Ameen Ali, Liran Ringel, Lior Wolf

离散扩散语言模型通过并行生成令牌降低延迟，但独立选择易产生不兼容配置。本文提出训练免费解码框架，利用成对交互调整commit scores，通过变分松弛实现不动点更新。该方法无需辅助模型或重训练，可嵌入现有扩散解码流程。在推理和代码生成基准上，该方法在质量-延迟权衡方面取得一致改进。

论文离散扩散语言模型并行解码推理基准代码生成

推荐理由：不用额外训练，给离散扩散模型装上智能调度，并行生成质量更好、延迟更低。推理和代码生成都有效。

原文

5月27日

10:28

官方账号arXiv cs.AI@Shihao Wang, Shilong Liu, Yuanguo Kuang, Xinyu Wei, Yangzhou Liu, Zhiqi Li, Yunze Man, Guo Chen, Andrew Tao, Guilin Liu, Jan Kautz, Lei Zhang, Zhiding Yu

精选

LocateAnything 提出并行框解码（PBD）方法，将边界框和点作为原子单元单步解码，替代传统序列化坐标生成，解决了几何结构耦合性差和推理瓶颈问题。该方法在保持框内几何一致性的同时，显著提升解码吞吐量和定位精度。团队还构建了包含1.38亿训练样本的大规模数据集 LocateAnything-Data，增强数据多样性。实验表明，LocateAnything 在多个基准上实现了速度与精度的新前沿，高IoU定位质量显著提升。这项工作展示了并行解码与大规模数据在统一视觉定位与检测中的互补优势。

论文视觉定位目标检测并行解码大规模数据集 LocateAnything

推荐理由：做视觉定位或目标检测的开发者，LocateAnything 的并行解码思路能直接提升推理效率，建议关注其开源数据和模型。

原文

5月19日

11:07

官方账号arXiv cs.LG@Junyi Wu, Tianchen Zhao, Shaoqiu Zhang, Linfeng Zhang, Guohao Dai, Yu Wang

精选

扩散语言模型（dLLM）通过联合去噪一批[MASK]令牌实现并行解码，但大块掩码令牌导致大量计算冗余。研究发现，许多计算花费在重复处理前文上下文和特征表示相同的[MASK]令牌上。为此，提出位置保持的[MASK]令牌压缩和终端感知增强方法，通过压缩冗余计算加速解码，并自然扩展到长上下文场景。在LLaDA-8B-Instruct和LLaDA-1.5等全序列dLLM上验证了效果，对LLaDA2.0-mini等块dLLM，通过保护终端[MASK]令牌增强上下文，以极小开销提升生成质量。

论文扩散语言模型上下文压缩并行解码 LLaDA 计算冗余

推荐理由：扩散LLM的并行解码效率一直是痛点，这篇工作直接戳中计算冗余的核心，做模型推理加速或长上下文应用的开发者值得关注，压缩方法可以直接集成到现有dLLM中。

原文