精选理由
这篇论文找到了CFG在高引导下翻车的数学原因,还给了个零成本修复,CIFAR-10和SD1.5上点FID全胜,做采样的人值得看看。
无分类器引导(CFG)在大强度下导致扩散采样过饱和。作者通过数值分析指出,DDIM步是未引导终端层的唯一拟合算子,而引导使判别子空间以指数1+w重新变硬。他们提出单系数零额外NFE修复:将CFG的w(r-1)替换为r^(1+w)-r。在CIFAR-10和Stable Diffusion 1.5 DDIM上,该方法以9/9点FID优于CFG,并减少残差放大和饱和,但并非通用质量提升。
AI 翻译 · 中文
无分类器引导(CFG)在大强度下导致扩散采样过饱和。作者通过数值分析指出,DDIM步是未引导终端层的唯一拟合算子,而引导使判别子空间以指数1+w重新变硬。他们提出单系数零额外NFE修复:将CFG的w(r-1)替换为r^(1+w)-r。在CIFAR-10和Stable Diffusion 1.5 DDIM上,该方法以9/9点FID优于CFG,并减少残差放大和饱和,但并非通用质量提升。
Classifier-free guidance (CFG) is the standard way to strengthen class-conditioning in diffusion and flow-matching samplers, yet at large guidance it oversaturates and destabilizes, symptoms practitioners suppress with m…