精选理由
做生成模型长尾覆盖或罕见样本生成的团队，无需额外训练就能提升模型对低密度区域的探索能力，建议直接参考其采样策略。
标准分类器引导的扩散模型倾向于生成高密度类均值附近的样本，导致对尾部罕见样本的覆盖不足。现有方法通过训练额外的低密度分类器来解决，但增加了计算成本。本文提出一种纯采样阶段的密度感知方法，无需额外训练，通过修改反向扩散动力学，利用分类器梯度将轨迹引向低置信区域，同时引导采样接近真实数据流形。在ImageNet 64x64分辨率下，该方法一致提升了ADM模型的召回率，同时保持可比的FID分数；在256x256分辨率下，视觉结果显示了不同引导组合的效果。这项工作为生成模型的长尾覆盖问题提供了一种轻量级解决方案。
AI 翻译 · 中文
标准分类器引导的扩散模型倾向于生成高密度类均值附近的样本，导致对尾部罕见样本的覆盖不足。现有方法通过训练额外的低密度分类器来解决，但增加了计算成本。本文提出一种纯采样阶段的密度感知方法，无需额外训练，通过修改反向扩散动力学，利用分类器梯度将轨迹引向低置信区域，同时引导采样接近真实数据流形。在ImageNet 64x64分辨率下，该方法一致提升了ADM模型的召回率，同时保持可比的FID分数；在256x256分辨率下，视觉结果显示了不同引导组合的效果。这项工作为生成模型的长尾覆盖问题提供了一种轻量级解决方案。
Diffusion models have emerged as state-of-the-art generative models for high-fidelity image synthesis, particularly in their classifier-free guided and classifier-guided forms. However, standard classifier guidance conce…