8月17日
10:16
10:16官方账号arXiv cs.LG@Xiaohong Chen, Yuling Jiao, Lican Kang, Jerry Zhijian Yang, Chen Zhong
论文提出用条件扩散模型估计奖励函数和转移核,以构建离线强化学习中的最优Bellman算子。理论给出该算子在总变差距离下的非渐近收敛速率,以及Q*估计的L2收敛率O(n^{-β/(d_x+d_a+2β)})。该分析不依赖完整性假设,状态维度d_x、动作维度d_a和Hölder平滑度β决定了收敛速度。
推荐理由:这篇用扩散模型估计奖励和转移核,再学Q*,收敛率给得很细,还绕开了RL里常见的完整性假设。