10:54arXiv cs.LG@Haipeng Luo, Qingfeng Sun, Songli Wu, Can Xu, Wenfeng Deng, Han Hu, Yansong TangSTARE针对GRPO等强化学习训练中策略熵崩溃问题,提出令牌级信用分配纠偏方法。通过惊讶度分位数识别熵关键令牌子集,选择性重加权其有效优势,并引入目标熵闭环门控实现稳定熵调节。在1.5B至32B规模模型及短CoT、长CoT、多轮工具使用三类任务中,STARE可维持数千步稳定训练。在AIME24和AIME25上,STARE准确率较DAPO等基线提升4%-8%,反射令牌和响应长度同步增长,表明探索-利用平衡得到改善。代码已开源。论文STAREGRPO策略熵强化学习推理模型推荐理由:STARE解决了GRPO训练中策略熵崩溃的老问题,在AIME数学竞赛上比DAPO高4-8个点,代码也开源了,搞RL训练的同学可以试试。原文