精选理由
这篇论文从局部质量角度拆解贝叶斯推理,用Mass Index和RE-KL两个新工具分析了KL散度忽略的局部行为,做变分推断的朋友可以看看。
该论文引入质量指数(Mass Index)记录贝叶斯推断中局部质量的幂和对数衰减尺度,并提出正则化扩展KL散度(RE-KL)以处理奇异成分。作者证明在KL散度的两个方向下,局部小球质量的绝对、相对和方向性不等式。实验提供了受控的局部行为示意图。代码已开源。
AI 翻译 · 中文
该论文引入质量指数(Mass Index)记录贝叶斯推断中局部质量的幂和对数衰减尺度,并提出正则化扩展KL散度(RE-KL)以处理奇异成分。作者证明在KL散度的两个方向下,局部小球质量的绝对、相对和方向性不等式。实验提供了受控的局部行为示意图。代码已开源。
Global objectives, such as KL divergence and ELBO, are widely used in Bayesian inference for measuring distributional discrepancy. This paper studies their local-mass behaviour that is not directly captured by such objec…