#trust region

这篇论文提出DCL方法，在约束函数未知时用局部代理高效优化，解决了实际难题，值得关注。

这篇论文提出了一种更聪明的掩码方法，解决了PPO和DPPO在方向判断上的不一致，让LLM强化学习训练更稳定高效。

做LLM RL后训练的团队终于有了更优雅的信任区域控制方案——DRPO用连续正则化替代硬裁剪，解决了长尾词汇下梯度丢弃问题，训练更稳且收敛更快，做RLHF或GRPO优化的建议直接读论文。