持续学习(Continual Learning)是人工智能领域试图让模型在增量数据上持续更新、不遗忘旧知识的研究方向。近期,相关进展呈现出两种路径:一是探索更简洁的上下文学习方法,二是推动后训练与云端持续训练。
当前焦点在于:持续学习是否需要复杂的专用机制?ICL 的颠覆性结果表明,大模型固有的上下文能力可能已足够应对部分持续学习需求。此外,后训练和云端训练成为实际部署中持续更新模型的关键手段。未来观察点包括:ICL 在更长序列或更动态环境中的泛化能力,以及云原生持续训练框架能否标准化并降低模型更新成本。