AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

推理基准

共 1 条相关 AI 资讯
6月16日
10:37
10:37官方账号arXiv cs.LG@Tamim Zoabi, Ameen Ali, Liran Ringel, Lior Wolf
离散扩散语言模型通过并行生成令牌降低延迟,但独立选择易产生不兼容配置。本文提出训练免费解码框架,利用成对交互调整commit scores,通过变分松弛实现不动点更新。该方法无需辅助模型或重训练,可嵌入现有扩散解码流程。在推理和代码生成基准上,该方法在质量-延迟权衡方面取得一致改进。
论文离散扩散语言模型并行解码推理基准代码生成

推荐理由:不用额外训练,给离散扩散模型装上智能调度,并行生成质量更好、延迟更低。推理和代码生成都有效。
原文
精选全部日报登录