12:48官方账号arXiv cs.LG@Lars van der Laan, Nathan KallusFORE通过伴随Bellman递归直接估计折扣占用率,仅需占用率可实性条件,无需Bellman完备或投影算子稳定性。在总体层面,KL投影递归以相对熵形式向真实比率收缩。经验递归的有限样本遗憾界表明,KL收敛误差由对数比率逼近误差和假设类复杂度决定的统计误差组成。该方法支持奖励加权估计、占用加权拟合Q评估以及双重稳健估计。这一结果将折扣占用率可实性识别为离线策略评估的充分条件。论文FORE离线强化学习策略评估占用率Bellman完备性推荐理由:这篇论文提出FORE方法,只用占用率可实性就能做离线策略评估,省去Bellman完备性的复杂条件,适合研究强化学习的同学参考。原文
09:23官方账号arXiv cs.LG@Max Weltevrede, Matthijs T. J. Spaan, Wendelin Böhmer论文证明在上下文MDP中,过度悲观不会阻碍最优泛化,但必须尊重最优解的对称性。通过理论分析,适度悲观但非对称的值函数可能比过度悲观且对称的值函数泛化更差。数据增强应通过在策略提取时施加一致性损失来提升泛化,而非在增强数据集上常规训练。使用IQL和CQL在旋转对称reacher环境中验证了该方法。论文离线强化学习泛化数据增强对称性IQL推荐理由:这篇论文用理论和实验告诉你,离线RL里悲观多少不重要,悲观的结构对不对才关键,还给出了数据增强的正确用法。原文
09:41官方账号arXiv cs.LG@Ziheng Wei, Annie Qu, Rui Miao离线强化学习中,即时奖励常因记录稀疏或审查而缺失,导致评估偏差。本文聚焦奖励缺失非随机(MNAR)场景,在有限时域MDP下研究离线策略评估(OPE)。作者利用未来状态作为影子变量,结合奖励依赖倾向模型辨识全数据条件均值奖励。进一步引入桥函数并通过min-max估计避免双重采样,提出Fitted-Q-Evaluation风格估计器。在模拟数据和MIMIC-III Sepsis数据上,该方法在误差和一致性上优于现有基线。论文OPEMNARMDP缺失数据离线强化学习推荐理由:想处理真实场景奖励缺失的强化学习玩家可以看这篇,用影子变量和桥函数解决偏差问题,实验比传统方法稳。原文