Bandits

general · First seen 2026-06-09 · Last seen 2026-10-16 · 21 mentions

Overview

Bandits(老虎机问题)是强化学习与在线决策领域的一类经典问题模型:决策者在每一步从若干候选动作(臂)中选择一个,仅能观察到该选择带来的反馈,需要在探索新选项与利用已知优选项之间取得平衡,以最小化累积遗憾。它是推荐系统、动态定价、A/B 测试等场景的核心理论工具,近年研究正向更贴近现实约束的方向深入。

Bandits 理论近期进展

近期的理论工作集中在放宽经典假设、提升算法鲁棒性上。arXiv 论文《论文提出鲁棒老虎机首个多项式时间学习器》针对鲁棒设定给出了首个多项式时间算法,把长期停留在理论可行但计算困难的问题推向可实际求解。

方差结构方面,VAEE 算法在《VAEE算法打破异方差线性Bandits总方差屏障》中处理了噪声方差随动作变化的线性 Bandits 情形,突破了以往与总方差相关的遗憾下界限制。此外,《Linear Bandits under Exact Sliding-Window Constraints》研究了滑动窗口约束下的线性 Bandits,对应非平稳环境中只有近期数据有效的场景。

从单臂到多智能体与迁移

另一条主线是 Bandits 的场景扩展与知识复用。《Approximating Optimal Policies in Heterogeneous Asynchronous Multi-player Bandits》讨论了多个玩家异步协作且各自面对不同环境时的最优策略近似;《Transfer Learning in Bandits from Unknown Adaptive Policies: Problem-Dependent Lower and Upper Bounds》则从理论上刻画了在源策略未知情况下的迁移学习上下界。

当前焦点与观察点

  • 样本复杂度与最优臂识别:多臂 Bandits 中,最优臂识别(Best Arm Identification)是固定置信度设定的核心问题。近期《Best Arm Identification for Bandits with Shifting Means》与《Expected Sample Complexity in Multi-Armed Bandits》分别关注均值漂移下的识别和期望样本复杂度的更精细刻画。
  • 评估效率:《Explore Once, Evaluate Many: Multiple Policy Evaluation for Stochastic Linear Bandits》提出一次探索即可评估多个策略的离线评估方法,对降低实验成本有直接价值。
  • 安全与保守决策:在医疗、金融等高风险应用中,保守 Bandits 要求策略不劣于既有基线。《Reserve-Aware Contrast Certificates for Conservative Bandits with Uncertain Baselines》处理了基线本身不确定时的安全证书构造,反映了社区对可部署安全性的重视。
  • 总体来看,Bandits 研究正从理想的独立同分布假设走向异方差、非平稳、多智能体与安全约束等更真实的设定,理论界限的收紧与算法可计算性是当前的两条主要观察线索。

    Coverage

    10 on file