精选理由
这篇论文发现了一个反直觉的事:扩散模型正向得分训练误差很小,但采样时数值可能不稳定,矩甚至发散。想避开采样坑的可以看看。
论文构造了光滑得分场,其正向边缘L^2误差任意小,但Euler-Maruyama离散化后所有正阶矩发散。虽然路径空间总变差距离可以任意接近精确反向过程,但每个Wasserstein距离W_p (p≥1)发散。在固定有限神经架构(如DiT风格网络)中,同样存在一族有界全局Lipschitz去噪器,其正向边缘误差和路径总变差趋于零,但Euler-Maruyama端点所有W_p发散。对于紧支撑数据,将去噪器投影到包含支撑的已知有界闭凸集上可保持点态精度并给出格点一致矩界,实验显示此投影能抑制罕见数值轨迹的异常增长。
AI 翻译 · 中文
论文构造了光滑得分场,其正向边缘L^2误差任意小,但Euler-Maruyama离散化后所有正阶矩发散。虽然路径空间总变差距离可以任意接近精确反向过程,但每个Wasserstein距离W_p (p≥1)发散。在固定有限神经架构(如DiT风格网络)中,同样存在一族有界全局Lipschitz去噪器,其正向边缘误差和路径总变差趋于零,但Euler-Maruyama端点所有W_p发散。对于紧支撑数据,将去噪器投影到包含支撑的已知有界闭凸集上可保持点态精度并给出格点一致矩界,实验显示此投影能抑制罕见数值轨迹的异常增长。
Score matching controls average error under the forward marginals, but a discretized reverse-time sampler evaluates the learned score along its own trajectory. We show that small forward-marginal error does not guarantee…