Options

general · First seen 2026-05-22 · Last seen 2026-10-22 · 74 mentions

Overview

Options(选项)是分层强化学习中的核心概念,指智能体在任务中可复用的高层技能或子策略,让决策系统不必逐步规划每个动作,而是像调用“招式”一样组合执行;这个词有时也被借喻到 AI 政策领域,如“可退出的选项”。近期关于 Options 的讨论,一方面集中在用大模型与表示学习自动发现选项的技术进展,另一方面延伸到国家层面的 AI 战略取舍。

Options 在强化学习中的新进展

  • Wayfarer:通过拉普拉斯表示学习自动发现选项,攻克 Atari 高难游戏:这项研究不再依赖人工设计技能库,而是利用拉普拉斯表示学习自动从环境中“挖出”选项,并在 Atari 高难度游戏上验证了效果,是选项自动发现方向上较为完整的示范。
  • UniIntervene++:自适应干预智能体提升机器人在线强化学习效率:针对机器人在线 RL 中人类何时介入、介入多深的难题,提出自适应干预机制,减少无效干预、加快策略收敛,与分层技能(options)的思想一脉相承——让高层决策接管低层探索。
  • 17 美元、25 分钟,用 Qwen3.5 4B 微调出专用决策模型:17 美元、25 分钟即可微调出专用决策模型的低成本路径,说明小型模型正被广泛用于决策类任务,这类模型未来可作为选项库中的执行模块。
  • 从技术概念到政策隐喻:可退出的 AI 选项

  • 东南亚的 AI 战略:追求可退出选项而非完全自主:Fulcrum(ISEAS)刊文提出,东南亚在 AI 基础设施和能力上追求完全自主并不现实,更务实的做法是保持“可退出选项”——即保留在不同供应商与技术路线之间切换的能力,避免深度绑定。这与技术社区常用的 vendor lock-in(供应商锁定)担忧相呼应。
  • 当前焦点与观察点

    围绕 Options 的讨论呈现两条线索。技术侧,选项自动发现(Wayfarer 一类方法)正尝试把传统分层 RL 的手工技能设计,替换为由表示学习驱动的端到端方案,值得观察其在真实机器人与长时序任务上的泛化能力;政策侧,“可退出选项”作为一种务实的国家 AI 策略框架,正在替代“完全主权”叙事。两条线索的共同点是:在不确定环境中,保留可切换、可组合的选择权,往往比押注单一最优方案更稳健。后续可关注选项方法与大规模基础模型结合后,能否在开放任务中形成真正可复用的技能库。

    Coverage

    10 on file