精选理由
URGE解决了扩散模型推理时引导的计算瓶颈,做生成模型优化或采样加速的研究者可以直接用这个梯度无关的轻量方案,值得关注。
URGE(Unbiased Resampling via Girsanov Estimation)是一种无偏、无梯度的推理时缩放算法,用于扩散生成模型。它通过Girsanov测度变换对模拟轨迹进行路径重要性重加权,并定期重采样,无需计算分数、Hessian或PDE。该方法避免了现有技术中的偏差和高计算开销,在合成测试和扩散模型基准上优于现有推理时引导方法,且实现更简单。URGE建立了路径与粒子级序贯蒙特卡洛之间的等价性,确保两种方案产生相同的无偏终端分布。
AI 翻译 · 中文
URGE(Unbiased Resampling via Girsanov Estimation)是一种无偏、无梯度的推理时缩放算法,用于扩散生成模型。它通过Girsanov测度变换对模拟轨迹进行路径重要性重加权,并定期重采样,无需计算分数、Hessian或PDE。该方法避免了现有技术中的偏差和高计算开销,在合成测试和扩散模型基准上优于现有推理时引导方法,且实现更简单。URGE建立了路径与粒子级序贯蒙特卡洛之间的等价性,确保两种方案产生相同的无偏终端分布。
Diffusion-based generative models increasingly rely on inference-time guidance, adding a drift term or reweighting mixture of experts, to improve sample quality on task-specific objectives. However, most existing techniq…