11:57官方账号arXiv cs.AI@Boshu Lei, Kostas Daniilidis, Antonio Loquercio精选本文提出 RLDT(Reinforcement Learning with Density Transport),一种在线强化学习算法,用于微调连续控制问题中的流匹配策略。核心思想是将策略改进视为动作密度向高奖励区域的传输,与流匹配模型的传输公式自然对齐。RLDT 使用 Stein 变分梯度下降(SVGD)从最大熵 RL 目标构建传输场,然后微调预训练的流匹配策略以对齐该场。通过预期目标估计近似中间去噪步骤的动作,避免了不稳定的反向传播。实验表明,RLDT 在奖励质量和收敛速度上优于基线,适用于密集/稀疏奖励及基于状态/视觉的长期机器人操作任务。论文强化学习流匹配密度传输连续控制机器人操作推荐理由:RLDT 解决了流匹配策略在强化学习中难以微调的痛点,做连续控制或机器人操作的团队可以直接参考其密度传输思路,比蒸馏或近似分布的方法更高效。原文
11:41官方一手arXiv: Google DeepMind@Bosun Liang, Shuo Pei, Zirui Chen, Chuanzhi Fan, Chen Sun, Yuankai Wu, Huachun Tan, Yong Wang精选强化学习常产生高频振荡控制信号,影响物理部署的安全与稳定。显式动作分块虽能预测固定轨迹,但会扩大策略输出维度,导致优化困难。本文提出双窗口平滑(DWS)框架,通过隐式动作分块实现平滑连续控制,无需扩展动作空间。DWS包含执行窗口(确保物理平滑)和价值窗口(修正评论家偏差),并引入轻量级时序正则化器。在DeepMind控制套件、工业能源管理及视觉自动驾驶任务中,DWS超越现有方法,实现100%成功率。论文强化学习连续控制动作分块平滑控制DWS推荐理由:做机器人控制或自动驾驶的团队,DWS解决了强化学习控制信号抖动这个老大难问题,无需增加模型复杂度就能提升安全性和成功率,值得在你们的仿真或实机任务上试试。原文