Continual(持续学习,Continual Learning)是机器学习中的一个研究方向,指模型在部署后不断接收新数据、学习新任务,同时尽量不遗忘已有能力。随着大模型和智能体从静态训练走向长期在线服务,如何让系统在实践中自我改进而退化最小,正成为社区关注的焦点。
Continual Learning 近期进展
当前焦点与观察点
当前围绕 Continual 的讨论集中在三个方面。其一是评测:ServeLearnBench 和机器人操作基准的出现,说明社区正在为"学新不忘旧"建立统一度量,避免停留在概念演示层面。其二是工程落地:Baseten 的分析反映了从学术方法到生产系统之间仍有明显鸿沟,数据流管理、回放策略和评估闭环都需重新设计。其三是数据合规与生态:PoCoFL 提出可验证合规的联邦学习框架,而有关 MiniMax 训练方式"燃烧公共数据池"的争议,则凸显了持续训练所依赖的数据来源问题正引发行业博弈。OPSD 与持续学习研究讨论会也将数据难题列为核心议题。
值得观察的后续变量包括:自我改进型智能体(如 Prime Agent)能否在开源社区形成稳定范式,以及针对遗忘问题的基准结果是否会推动训练策略标准化。在具身智能与智能体服务场景中,持续学习很可能从研究议题逐步转为产品能力的关键分水岭。