做LLM智能体长期部署和持续学习的团队可以关注——MemoPilot用强化学习自动优化记忆策略,比手工调提示更系统,在博弈场景中效果显著,值得在类似任务中尝试。
#强化学习
做LLM推理强化学习的团队终于有了更精细的熵控制方案——PAEC在数学推理任务上直接提升多数投票性能,做RLVR的开发者值得关注这个位置感知的新思路。
做机器人策略部署或安全检测的团队,终于有了一个不依赖模型内部状态、零运行时开销的失败预警方案——ActProbe 只需动作序列就能提前发现异常,建议做真实机器人实验的开发者直接试。
OpenEnv 解决了开源智能体 RL 中模型与训练框架耦合的痛点,做智能体训练或强化学习的开发者可以直接用它作为协议层来自由组合工具,值得关注并尝试。
Harness-1用强化学习解决了检索子智能体的搜索策略优化问题,做信息检索或RAG系统的开发者可以直接用开源代码复现,效果接近闭源最强模型。
做AI智能体开发的团队终于有了让模型自主进化的方案——Evolving-RL省去了手动设计技能模块的麻烦,做强化学习或自适应系统的开发者值得深入研究。
做搜索智能体或 RAG 系统的开发者,Harness-1 的思路能帮你解决模型上下文窗口瓶颈,让智能体在复杂搜索中更高效,值得参考其状态外置设计。
QUBRIC解决了RL在非可验证任务中的核心瓶颈——查询与评分标准不匹配,做RL训练或AI对齐的团队可以直接参考其方法,提升模型在开放推理任务上的表现。
做 LLM 后训练(RFT/RL)的团队终于有了统一的奖励评估框架,不用再为不同任务拼凑规则和检查表了——Skill-RM 用智能体思路动态整合证据,效果还更好,做对齐和强化学习的建议直接看代码。
做无人机导航或机器人强化学习的团队,终于有了能自动设计奖励函数并自我优化的框架,省去大量手动调参时间,建议直接看实验部分。
做RL研究或语言模型微调的团队,如果正为多样性-性能权衡头疼,这篇论文给出了一个理论干净的新框架——把奖励不确定性当作多样性来源,不用额外调参。值得细读。
微软用自研数据+强化学习打造了强推理模型,做 AI 推理或模型训练的团队值得关注其“爬山机器”方法论,尤其是 35B 激活参数就能达到接近顶尖水平的效率。
做 AI 评估或强化学习的团队,验证器成本一直是个头疼问题——Harvey 和 LangChain 的这项研究直接给出了降本思路,值得关注。
做机器人操控或强化学习的团队,终于有了一个不更新大模型也能微调扩散策略的轻量方案——LP-DS 在保持动作多样性的同时提升回报,建议试试看能否解决你的分布偏移问题。
做智能体强化学习的团队终于有了一个能自动积累可复用策略的框架——ReSkill 让技能创建和策略优化不再打架,直接提升泛化能力,做 RL 和 LLM 智能体的研究者值得细读。
多语言推理场景下,翻译不是越多越好——Luar 教会模型在「不懂的时候才翻」,做多语言 NLP 或低资源语言应用的团队可以直接用这个框架来提升推理效率。
做 LLM Agent 安全防护的团队终于有了一个可落地的方案——SafeMCP 在服务器端用前瞻推理主动过滤危险工具调用,比事后审计更有效,建议关注其开源实现。
医学影像团队终于有了更精准的自动报告生成方案——RL-ACRGNet通过强化学习优化视觉语义对齐,做医疗AI的开发者可以直接参考其双网络奖励机制来提升模型临床相关性。
这篇论文揭示了灾难态本身就能产生前景理论行为,对做强化学习安全控制、风险决策建模的研究者很有启发,建议读一下推导和实验设计。
这篇论文解决了 GPU 内核优化中评估成本高的痛点,做高性能计算或深度学习框架优化的开发者可以直接参考其方法——用 LLM 替代部分硬件测量,在相同预算下找到更优内核。
ReuseRL 用 MDL 原则解决了智能体 RL 泛化差的痛点,做多任务智能体训练的团队可以直接参考其技能复用机制,提升模型在未见任务上的表现。
长上下文推理是当前大模型的瓶颈,LongTraceRL 用搜索轨迹和细粒度奖励解决了干扰项和奖励稀疏的问题,做推理模型训练或长文档理解的团队可以直接用开源代码复现。
VAGEN解决了VLM智能体在复杂环境中缺乏内部世界模型的问题,做机器人或自动驾驶研究的团队值得关注,它可能让AI的决策更接近人类推理。
做LLM强化学习训练的团队终于有了一个能省算力又提效果的方法——ESPO在数学推理任务上不仅性能更好,还省了20%的token,训练成本敏感的团队值得一试。
推理模型开发者长期受困于验证器失效导致自改进停滞,STV用参考答案不对称性巧妙破解,在困难数学和科学任务上效果显著,做自训练或测试时搜索的团队值得深入看。
多模态智能体推理是当前 AI 的前沿方向,AEPO 为开发者提供了一种可落地的训练优化思路,做智能体或多模态应用的团队值得关注。
做分布式 RL 训练的团队终于可以告别昂贵的带宽和复杂的基础设施——只需 HTTPS 和一个 Bucket,就能实现跨区域的推理集群同步,建议搞 RL 的开发者直接看原文。
Orbit 让万亿参数模型的后训练不再依赖大规模集群,做 RL 微调或大模型优化的团队可以直接在单节点上跑 DeepSeek-V4,建议试试这个开源方案。