11:57
官方账号arXiv cs.LG@Bingnan Li, Haozhe Wang, Haozhong Xiong, Fangtai Wu, Jinpeng Yu, Yang Shi, Jiaming Liu, Ruihua Huang
推荐理由：这篇论文发现了现有扩散蒸馏方法在CFG下的一个隐蔽问题，并给出了一个简单的修正方案。做扩散模型蒸馏或视频生成的同学可以看看。
分类器自由引导
共 1 条相关 AI 资讯
7月28日
11:57
本文研究在策略蒸馏（OPD）中分类器自由引导（CFG）的作用。现有OPD方法直接匹配教师和学生模型的引导速度，但在分支级别存在欠辨识问题：正负分支误差可相互补偿。作者发现，在共享负条件时匹配仍有效，但当教师负分支包含学生无法获取的特权信息时，会导致负分支不对称（NBA）失败模式。为解决NBA，提出正方向匹配（PDM），分别约束正预测和CFG条件方向。将PDM应用于稠密到稀疏视频控制，比朴素引导匹配更鲁棒有效。