11:38arXiv cs.LG@M. Forzo, E. Monzio Compagnoni, A. Russo, A. Pacchiano本文针对带线性函数近似的时序差分(TD)学习,提出了一种随机微分方程(SDE)近似,以替代传统常微分方程(ODE)描述。ODE仅捕捉渐近平均动力学而忽略随机波动,新SDE模型在马尔可夫噪声下区分了投影Bellman算子的收缩动力学与采样噪声的影响。该模型解释了恒定步长误差下限是由马尔可夫长期协方差与投影Bellman算子收缩几何相互作用导致。论文提供了理论证明与数值验证。论文TD learning线性函数近似随机微分方程策略评估马尔可夫噪声推荐理由:这篇论文从数学上解释了TD学习的误差为啥降不下去,用扩散近似把随机性的影响说清楚了。方法派、做强化学习理论的可以看看。原文
19:10arXiv cs.AI@Yaman Kindap, Manfred Opper, Benjamin Dupuis, Umut Simsekli, Tolga Birdal本文提出了一种基于神经指数倾斜的变分推断方法,用于Lévy过程驱动的随机微分方程(SDEs)。该方法通过神经网络指数地重新加权Lévy测度,构建灵活的变分族,既保留了跳跃过程的动态特性,又具备计算可行性。研究者发展了二次神经参数化以实现倾斜测度的闭式归一化,以及稳定过程的条件高斯表示和对称性感知蒙特卡洛估计器。实验表明,该方法在合成和真实数据上能准确捕捉跳跃动态,优于高斯假设的变分方法。这对于金融、气候科学和AI安全等需要建模极端事件的领域具有重要意义。论文变分推断Lévy过程随机微分方程重尾建模极端事件推荐理由:该工作解决了Lévy驱动SDE贝叶斯推断中可扩展性与精确性的矛盾,为处理重尾和跳跃过程提供了实用工具,对金融风控、气候极端事件预测等应用有直接价值。原文