Selection 在 AI 领域语境下,通常指训练数据选择(data selection)或候选方案筛选,即从海量样本、模型或推理路径中挑出对目标任务最有价值的子集,它正成为决定模型训练效率与最终效果的关键环节。随着智能体训练和多模态推理规模扩大,如何“选得准、选得省”逐渐从工程细节上升为研究热点。
数据 Selection 的近期进展
斯坦福 CS 329Z 第 12 讲聚焦智能体训练数据的筛选问题,将数据选择系统性纳入智能体课程体系,反映出学界已把 Selection 视为智能体训练的独立议题(Stanford CS 329Z 第 12 讲:Agent 训练数据怎么筛)。在方法层面,GIST 提出面向离线 RLVR 的分层训练数据选择框架,针对可验证奖励场景优化样本挑选策略(GIST:面向离线 RLVR 的分层训练数据选择方法)。Apple 则提出 RISED,基于 rubric 在多环境中为智能体训练挑选数据,把 Selection 从单任务扩展到跨环境泛化(Apple 提出 RISED:基于 rubric 的多环境智能体训练数据选择方法)。
Selection 的思路也被迁移到模型本身。一项研究指出 LoRA 模型合并无需统一秩,按领域选择秩最多可提升 1.8 个百分点,属于对模型参数结构的细粒度选择优化(研究显示 LoRA 模型合并无需统一秩,按域选秩最多提升 1.8 个百分点)。Apple 的 SSR 方法则把多模态推理重构为选择题形式,通过限制输出空间降低小模型的推理成本(Apple 提出 SSR:把多模态推理改成选择题,降低小模型推理成本)。
当前焦点与观察点
目前关于 Selection 的讨论集中在三个方向:一是训练数据的选择标准,从启发式过滤转向基于 rubric、分层策略等更精细的机制;二是选择范围的扩展,从文本语料延伸到智能体轨迹、LoRA 参数乃至推理输出格式;三是选择与评估的耦合,如 ComFair 基准测试 LLM 在多重属性交叉下的公平性(ComFair 基准上线:测试 LLM 多重属性交叉公平性),CLIFT 用保形自验证替代外部裁判训练网页智能体(CLIFT:用保形自验证训练开源网页智能体并替代外部裁判),以及 AWS 结合 Strands Evals 与 Amazon Bedrock AgentCore 评估技能型智能体(用 Strands Evals 和 Amazon Bedrock AgentCore 评估技能型智能体)。
值得观察的问题包括:数据选择带来的收益在不同任务间的可迁移性、评估方法是否能稳定衡量选择策略的优劣,以及 SSR 这类“选择式”推理在降低成本的同时是否牺牲了推理的开放性。总体来看,Selection 正从辅助技巧演变为主线研究议程,但其统一理论框架尚未形成。