10:45arXiv cs.LG@Changdae Oh, Wendi Li, Seongheon Park, Samuel Yeh, Tanwi Mallick, Sharon Li本文提出进度优势(Progress Advantage),通过计算RL后训练策略与参考策略的对数概率比,隐式获得智能体步骤级评分,无需额外训练奖励模型。该方法在五个基准(包括MATH、HotpotQA等)和四个模型家族(Llama-2、Mistral等)上验证,在测试时扩展、不确定性量化、失败归因三项任务中均优于基于置信度的基线。尽管无需任务特定训练,它仍超越专用奖励模型。论文还分析了进度优势的特征,为实际智能体系统提供使用指导。AI模型Progress AdvantageRL后训练智能体奖励模型测试时扩展推荐理由:这篇论文说,RL后训练时顺便就能得到一个免费的好信号,不用再费劲训练奖励模型,在好几个测试里都比专门训练的效果还好。做智能体训练的一定得看看。原文
23:18LangChain@LangChainAILangChain 指出,在强化学习后训练阶段,使用 LLM 作为评判(LLM-as-judge)系统将任务规则转化为奖励信号时,验证器成本可能显著放大。更便宜的奖励信号使得运行更多实验、审计更多 rollout 和更快迭代变得可行。这一发现对 AI 模型的后训练效率有重要影响,尤其适用于需要大量强化学习迭代的团队。AI模型RL后训练LLM-as-judge验证器成本奖励信号LangChain推荐理由:做 RL 后训练的团队注意了——验证器成本可能成为瓶颈,而 LLM-as-judge 的性价比直接决定迭代速度,建议点开看看怎么优化。原文