AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

MOPD

共 1 条相关 AI 资讯
7月28日
11:55
11:55官方账号arXiv cs.LG@Tianyi Men, Zhuoran Jin, Kang Liu, Jun Zhao
论文提出统一多轮环境,系统研究规划能力在预训练与后训练三阶段的获取、塑造与整合。预训练中,显式世界模型通过CoT状态转换建模提升长程泛化,少量长程数据即可实现组合泛化,但次优轨迹因误差累积严重损害性能。后训练中,OPD在低质长程设置下的有效区域比GRPO更广,不同知识的教师蒸馏可能损害学生先验世界模型。多教师在线策略蒸馏(MOPD)通过收敛到共享规划模式整合能力,兼容模式支持跨环境泛化,冲突模式导致干扰。
论文MOPDGRPOOPD

推荐理由:这篇用一个可控环境拆解了AI长程规划的训练机制,发现次优数据会拖累性能,多教师蒸馏能整合不同能力,值得做训练方法的人细读。
原文
精选全部日报登录