AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:并行解码×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
10:37
10:37arXiv cs.LG@Tamim Zoabi, Ameen Ali, Liran Ringel, Lior Wolf
离散扩散语言模型通过并行生成令牌降低延迟,但独立选择易产生不兼容配置。本文提出训练免费解码框架,利用成对交互调整commit scores,通过变分松弛实现不动点更新。该方法无需辅助模型或重训练,可嵌入现有扩散解码流程。在推理和代码生成基准上,该方法在质量-延迟权衡方面取得一致改进。
论文离散扩散语言模型并行解码推理基准代码生成

推荐理由:不用额外训练,给离散扩散模型装上智能调度,并行生成质量更好、延迟更低。推理和代码生成都有效。
原文
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月27日
10:28
10:28arXiv cs.AI@Shihao Wang, Shilong Liu, Yuanguo Kuang, Xinyu Wei, Yangzhou Liu, Zhiqi Li, Yunze Man, Guo Chen, Andrew Tao, Guilin Liu, Jan Kautz, Lei Zhang, Zhiding Yu
精选
LocateAnything 提出并行框解码(PBD)方法,将边界框和点作为原子单元单步解码,替代传统序列化坐标生成,解决了几何结构耦合性差和推理瓶颈问题。该方法在保持框内几何一致性的同时,显著提升解码吞吐量和定位精度。团队还构建了包含1.38亿训练样本的大规模数据集 LocateAnything-Data,增强数据多样性。实验表明,LocateAnything 在多个基准上实现了速度与精度的新前沿,高IoU定位质量显著提升。这项工作展示了并行解码与大规模数据在统一视觉定位与检测中的互补优势。
论文视觉定位目标检测并行解码大规模数据集LocateAnything

推荐理由:做视觉定位或目标检测的开发者,LocateAnything 的并行解码思路能直接提升推理效率,建议关注其开源数据和模型。
原文
5月19日
11:07
11:07arXiv cs.LG@Junyi Wu, Tianchen Zhao, Shaoqiu Zhang, Linfeng Zhang, Guohao Dai, Yu Wang
精选
扩散语言模型(dLLM)通过联合去噪一批[MASK]令牌实现并行解码,但大块掩码令牌导致大量计算冗余。研究发现,许多计算花费在重复处理前文上下文和特征表示相同的[MASK]令牌上。为此,提出位置保持的[MASK]令牌压缩和终端感知增强方法,通过压缩冗余计算加速解码,并自然扩展到长上下文场景。在LLaDA-8B-Instruct和LLaDA-1.5等全序列dLLM上验证了效果,对LLaDA2.0-mini等块dLLM,通过保护终端[MASK]令牌增强上下文,以极小开销提升生成质量。
论文扩散语言模型上下文压缩并行解码LLaDA计算冗余

推荐理由:扩散LLM的并行解码效率一直是痛点,这篇工作直接戳中计算冗余的核心,做模型推理加速或长上下文应用的开发者值得关注,压缩方法可以直接集成到现有dLLM中。
原文
精选全部日报登录