MBRL(Model-Based Reinforcement Learning,基于模型的强化学习)是一类让智能体先学习环境的动态模型(世界模型),再基于该模型进行规划或策略训练的强化学习范式。与无模型方法相比,MBRL 的核心优势在于样本效率高,可以通过在想象中“模拟”环境交互来减少真实试错成本,近年来在视觉泛化、机器人导航和博弈决策等方向持续活跃。
MBRL 近期进展
当前焦点与观察点
从近期工作看,MBRL 的研究重心正从“学会模拟环境”转向“在潜空间中完成泛化与规划”。VIGOR 与 LeCropFollow 都选择在潜空间而非像素空间做规划,这一路线可以降低计算开销并提升对视觉干扰的鲁棒性;NashDreamer 则表明世界模型思路正在向不完全信息博弈等更复杂的决策结构渗透。
争议与挑战依然存在:世界模型的误差会随想象步数累积,导致策略过度依赖不准确的模拟;同时如何在真实环境中验证这些以模拟为主的训练范式,仍是社区关注的观察点。后续值得关注的指标包括潜空间模型的泛化边界、想象长度的取舍,以及 MBRL 在农业导航等落地场景中的实际可靠性。