超越全局散度:贝叶斯推理的局部质量视角

Beyond Global Divergences: A Local-Mass Perspective on Bayesian Inference

精选理由

这篇论文从局部质量角度拆解贝叶斯推理,用Mass Index和RE-KL两个新工具分析了KL散度忽略的局部行为,做变分推断的朋友可以看看。

AI 摘要

该论文引入质量指数(Mass Index)记录贝叶斯推断中局部质量的幂和对数衰减尺度,并提出正则化扩展KL散度(RE-KL)以处理奇异成分。作者证明在KL散度的两个方向下,局部小球质量的绝对、相对和方向性不等式。实验提供了受控的局部行为示意图。代码已开源。

AI 翻译 · 中文

该论文引入质量指数(Mass Index)记录贝叶斯推断中局部质量的幂和对数衰减尺度,并提出正则化扩展KL散度(RE-KL)以处理奇异成分。作者证明在KL散度的两个方向下,局部小球质量的绝对、相对和方向性不等式。实验提供了受控的局部行为示意图。代码已开源。

arXiv cs.AIGlobal objectives, such as KL divergence and ELBO, are widely used in Bayesian inference for measuring distributional discrepancy. This paper studies their local-mass behaviour that is not directly captured by such objec