11:46官方一手arXiv: DeepSeek@Sicong Liao, Zhi Chen, Yaohua TangTCPO是一种面向验证器引导多轮强化学习的回合级信用分配方法,将验证器分数转换为回合级优势。它通过参考比较构建三种信用估计:回溯信用衡量相对最优状态的即时进展,事后延迟信用识别有后续回报的非改进回合,选择性反事实估计修正高意外回合。在数学推理、代码生成和AppWorld智能体任务上的实验显示,TCPO在Qwen3-4B和DeepSeek-R1-Distill-Llama-8B上取得最佳或并列最佳的最优回合Pass@8,并减少成功所需轮次。论文TCPO强化学习多轮推理推荐理由:TCPO把验证器分数拆成每一步的信用,让模型知道哪个回合真正有用,在数学、代码和Agent任务上都有效果。原文稍后读已读值得跟进有用关注 TCPO