AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP

Diffusion-GR2

共 1 条相关 AI 资讯
7月2日
10:23
10:23官方账号arXiv cs.AI@Zhuoxuan Zhang, Kangqi Ni, Yuhang Chen, Mingfu Liang, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Frank Shyu, Adam, Song, Sandeep Pandey, Luke Simon, Tianlong Chen, Xi Liu
生成式推理重排序器(GR2)通过自回归解码生成推理链后再排序,准确率高但推理速度慢。论文提出Diffusion-GR2,将自回归重排序器转换为块扩散模型,并行解码多个位置。通过转换微调(CFT)解决结构间隙,确保输出有效排列;通过在线蒸馏(OPD)和强化学习(RL)弥补分布间隙。在Amazon Beauty数据集上,Diffusion-GR2准确率接近自回归基线,推理吞吐量提升2.4-3.5倍。消融实验显示CFT恢复大部分转换损失,在线蒸馏进一步缩小差距。
论文Diffusion-GR2GR2AR re-rankerAmazon Beauty推理模型

推荐理由:想加速推理重排序又不想掉精度?这篇把自回归GR2换成块扩散,速度提升2.4倍以上,准确率几乎没降,干货满满。
原文
精选全部日报登录