11:48
官方账号arXiv cs.AI@Yunhe Li, Hao Shi, Wenhao Liu, Mengzhe Ruan, Hanxu Hou, Zhongxiang Dai, Shuang Qiu, Linqi Song
推荐理由：这篇论文提出了DemoPSD，通过分歧调节蒸馏过程，比GRPO和SDPO在科学推理上更强，还能防止模型学到测试时无效的捷径。
DemoPSD
共 1 条相关 AI 资讯
7月3日
11:48
DemoPSD是一种新的策略自蒸馏框架，用于训练大语言模型推理。它通过选择性采纳教师指导，构建反向KL重心的目标分布，自动平衡教师学习与学生自身推理能力的保持。理论证明该框架能有效缓解特权信息泄露并保留探索能力。在SciKnowEval的四个科学领域上，DemoPSD的表现优于GRPO和SDPO，并在跨分布GPQA基准上展现出强泛化性。