Thompson Sampling

concept · First seen 2026-06-02 · Last seen 2026-10-15 · 4 mentions

Overview

Thompson Sampling(汤普森采样)是一种基于贝叶斯后验概率的决策算法:决策者在每一步从当前的后验分布中采样参数,据此选择动作,再根据观测结果更新后验,从而在“探索”与“利用”之间取得平衡。它最初用于多臂老虎机问题,如今已扩展到推荐系统、在线广告、A/B 测试和强化学习等领域,是序贯决策研究中使用最广泛的方法之一。

Thompson Sampling 近期进展

近期研究围绕算法在更复杂场景下的表现展开。在分类器在线选择问题中,贝叶斯多臂老虎机方法被用于同时兼顾准确率与公平性,这类工作延续了将 Thompson Sampling 用于公平性敏感决策的思路,让算法在挑模型时不止看性能,还约束公平指标(贝叶斯多臂老虎机方法:在线挑选兼顾准确率与公平性的分类器)。

样本复杂度理论方面,多臂老虎机领域引入了期望样本复杂度(ACE)的新分析框架,为比较不同算法的采样效率提供了更细的衡量标准,这也直接影响对 Thompson Sampling 类方法的理论评估(多臂老虎机问题中引入期望样本复杂度 ACE 新框架)。

非平稳环境是当前的一个关键难点。一篇题为《When May a Bandit Leave Its Anchor?》的论文提出用 E-Process 授权的 Thompson Sampling,以严格的检验手段判断环境是否已发生变化、算法何时应“脱离锚点”重新探索,为传统上假设环境平稳的汤普森采样补上了切换条件的理论依据(When May a Bandit Leave Its Anchor? E-Process-Authorized Thompson Sampling under Non-stationarity)。

在智能体强化学习方向,Anthropic 的 ReSkill 研究探讨了技能创造与策略优化的协调问题,这类工作虽以 RL 为主体,但贝叶斯式探索思想(如后验采样)仍是其中处理探索难题的常用工具之一(ReSkill: Reconciling Skill Creation with Policy Optimization in Agentic RL)。

当前焦点与观察点

综合来看,Thompson Sampling 的研究重心正从“平稳环境下的最优性证明”转向三个方向:一是公平性等非纯收益约束下的应用扩展;二是非平稳或可验证变化环境中的安全性,例如用 E-Process 等序贯检验工具决定何时切换策略;三是与强化学习和智能体系统的结合,把经典的探索—利用框架嵌入更大规模的决策流程。争议点主要在于实际部署中先验选择与环境假设的影响——后验采样在实际系统中常表现优异,但理论保证往往依赖较强的前提,如何在更宽松的条件下给出可证性能,仍是该领域的开放问题。

Coverage

4 on file