#LLM后训练

共 4 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「LLM后训练」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月11日

论文精选11:39

这篇论文讲了个反直觉的事：蒸馏时师生token一致反而可能有害。TIDE方法在数学推理上把准确率从6.9%拉到20.3%，还让回答短了3.6倍，值得做LLM后训练的人看看。

arXiv cs.AI@Zichao Yu 等 7 人原文

6月9日

做LLM RL后训练的团队终于有了更优雅的信任区域控制方案——DRPO用连续正则化替代硬裁剪，解决了长尾词汇下梯度丢弃问题，训练更稳且收敛更快，做RLHF或GRPO优化的建议直接读论文。

arXiv cs.LG@Jiarui Yao 等 6 人原文

6月3日

论文精选10:45

做 LLM 后训练（RFT/RL）的团队终于有了统一的奖励评估框架，不用再为不同任务拼凑规则和检查表了——Skill-RM 用智能体思路动态整合证据，效果还更好，做对齐和强化学习的建议直接看代码。

arXiv cs.LG@Tao Chen 等 13 人原文

6月2日

该理论解释了多域RL训练中性能下降的机制，并提出了有效的恢复方法，对从事LLM后训练和多任务学习的开发者有直接指导意义，建议关注其刷新策略。

arXiv cs.LG@Lei Yang 等 3 人原文