12:48官方账号arXiv cs.LG@Lars van der Laan, Nathan KallusFORE通过伴随Bellman递归直接估计折扣占用率,仅需占用率可实性条件,无需Bellman完备或投影算子稳定性。在总体层面,KL投影递归以相对熵形式向真实比率收缩。经验递归的有限样本遗憾界表明,KL收敛误差由对数比率逼近误差和假设类复杂度决定的统计误差组成。该方法支持奖励加权估计、占用加权拟合Q评估以及双重稳健估计。这一结果将折扣占用率可实性识别为离线策略评估的充分条件。论文FORE离线强化学习策略评估占用率Bellman完备性推荐理由:这篇论文提出FORE方法,只用占用率可实性就能做离线策略评估,省去Bellman完备性的复杂条件,适合研究强化学习的同学参考。原文