Test-Time Adaptation(测试时适应)是一类让模型在推理阶段直接利用无标注测试数据自我调整的技术,核心目标是在不依赖目标域标签的情况下缓解训练与部署环境之间的分布偏移。它介于传统离线训练与纯推理之间,通常以熵最小化、自训练或教师-学生结构为自适应信号,近年在视觉、时序与多模态任务上持续有新工作出现。
Test-Time Adaptation 近期进展
教师-学生范式仍是这一方向的主流骨架。arXiv 上的工作《测试时适应框架的教师-学生方法重新思考》对该框架做了系统性反思,指出教师-学生在自适应过程中可能引入的偏差,并给出改进思路,反映出社区开始审视长期沿用的默认设定而非只堆叠新模块。
分割任务中的稳定性问题受到关注。《Balanced Prompt Adaptation against Entropy-Induced Collapse for Test-Time Binary Segmentation》针对二值分割中熵最小化容易导致类别坍缩的现象,提出平衡提示适应策略,试图在自适应的同时维持类别分布的合理性。
视觉-语言模型的测试时适应成为新热点。《Robustifying Vision-Language Models via Test-Time Prompt Adaptation》通过在推理时调整提示使 CLIP 类模型对分布偏移更鲁棒,延续了 2022 年以来 TPT 等工作开启的 prompt-level adaptation 路线。
应用范围也在扩展。时序方向有《STEPS: A Temporal Smooth Error Propagation Solver on the Manifolds for Test-Time Adaptation in Time Series Forecasting》把适应机制引入流形上的时序预测;世界模型方向则有《AdaJEPA: An Adaptive Latent World Model》尝试将自适应能力嵌入潜在世界模型。
当前焦点与观察点
目前 Test-Time Adaptation 研究的核心争议集中在自适应信号的可靠性上:以熵最小化为代表的自监督目标在类别不平衡、严重域偏移或长时自适应场景下可能出现坍缩或误差累积,近期多篇工作都在围绕这一弱点做修补。
另一个值得关注的趋势是从图像分类这一传统试验场向多模态和时序任务迁移,提示学习作为轻量化的适配载体被越来越多地采用,相比更新全部网络参数,它计算开销小、更契合在线部署场景。未来一段时间,如何在没有真值反馈的情况下长期稳定地自评价与自我纠错,可能仍是该方向能否真正落地的关键观察点。