09:21官方一手arXiv: Google DeepMind@Achyuthan Sivasankar这篇论文在9个DeepMind Control任务上引入shallow penalty ρ来测量深度在自回归展开中的效果,发现6/9的任务中深度帮助(ρ最高达4.7倍),2/9的任务中浅层胜出(ρ低至0.85倍)。通过消融实验,反转现象(cheetah任务)被证实由训练目标造成:仅监督早期退出第一步时ρ从0.87升至1.18,而内在折中任务不受影响。ρ的部分可预测性通过观察/动作维度和单步模型误差与ρ的Spearman相关系数约0.75(n=9)展示。在CEM规划器中,ρ的符号可预测规划是否受益于深度,反转任务上浅层规划优于深层。论文DeepMind ControlCEM planner世界模型推荐理由:这篇论文用实验告诉你,深的世界模型在滚动预测时不一定管用——在DeepMind Control的9个任务里,有2个反而是早退浅层更好,而且原因竟然出在训练方式上。搞模型规划的值得看看。原文稍后读已读值得跟进有用关注 DeepMind Control