10:17
官方账号arXiv cs.AI@Outongyi Lv, Yuanwei Zhang, Xiaoqun Zhang
推荐理由：GMTS方法让LLM推理训练更高效，前20%标记选择比传统熵方法表现更好。
GMTS
共 1 条相关 AI 资讯
9月1日
10:17
研究人员提出梯度幅度标记选择(GMTS)方法，用于改进强化学习可验证奖励(RLVR)训练。实验显示，使用GMTS方法选择前20%的标记进行训练，在三个推理领域和多种模型尺寸下，均优于基于熵的标记选择方法。GMTS通过熵-梯度连接来近似梯度幅度排名，提供更精细的标记贡献估计。