Bandit

general · First seen 2026-05-22 · Last seen 2026-10-15 · 21 mentions

Overview

Bandit(多臂老虎机)是在线决策与强化学习领域的经典模型,研究在不确定环境下如何通过反复尝试在“探索”与“利用”之间取得平衡,以最小化累计遗憾(regret)。它是推荐系统、广告投放、A/B 测试等场景的理论基础,目前的研究重心正从标准设定向更贴近现实的约束与鲁棒性方向延伸。

Bandit 理论的近期进展

近期 arXiv 上多篇工作集中在放宽经典假设后的遗憾界分析:

  • 多臂老虎机问题中引入期望样本复杂度 ACE 新框架:提出 ACE 框架,以期望样本复杂度作为新的分析维度,补充了传统以遗憾为主的评价体系。
  • 精确滑动窗口约束下的线性 Bandit 算法与遗憾界分析:针对环境非平稳的滑动窗口设定,给出线性 Bandit 在精确窗口约束下的算法与遗憾界。
  • 论文提出鲁棒老虎机首个多项式时间学习器:在鲁棒设定下首次给出多项式时间学习器,填补了该方向计算复杂度层面的空白。
  • 贝叶斯更新、后悔与信息的博弈论研究:从博弈论角度刻画贝叶斯更新、后悔与信息结构之间的关系。
  • Bandit 与大模型、Agent 研究的交汇

    除纯理论外,Bandit 思想也出现在大模型与 Agent 相关研究中:RATED 框架(arXiv)提出基于执行动态的可靠性感知工具检索,本质上带有在线选择与反馈修正的 Bandit 色彩;恢复感知的干预学习(arXiv)则从“优化策略从什么中学习”的角度讨论了干预式决策的信息来源问题。

    当前焦点与观察点

    目前 Bandit 研究的主要争议与关注点有三:一是非平稳与对抗环境下遗憾界的紧致性,滑动窗口等设定下的界是否最优仍有讨论空间;二是鲁棒设定下的计算效率,首个多项式时间学习器的出现可能带动一批后续工作;三是与 Agent 系统结合时,工具检索、验证器可靠性等问题(如 RLVR 中验证器出错引发的奖励黑客)正在成为在线决策理论落地的新场景。对从业者的观察建议是关注理论界与实际系统可靠性之间的差距,而非单纯追逐更小的遗憾上界。

    Coverage

    10 on file