无数据储层特征实现高效长周期冷启动持续学习

Data-Free Reservoir Features for Efficient Long-Horizon Cold-Start Continual Learning

精选理由

这篇论文提出CIRCLE方法:用固定储层特征做持续学习,无需回放,在长任务序列上比现有方法更快更准确。

AI 摘要

CIRCLE是一种基于固定双向二维储层特征(BiRC2D)的类增量分类器,使用流式线性判别分析(SLDA)头。它不需要回放、外部预训练或大初始任务。在CIFAR-100、TinyImageNet、ImageNet-Subset和ImageNet-1k数据集上,CIRCLE在10-20任务分割中表现有竞争力,在50、100和500任务分割中大幅超越现有强基线。同时训练速度远快于有回放的方法。消融实验表明,BiRC2D特征提取器、SLDA头和平衡特征/预测集成各自贡献了性能。

AI 翻译 · 中文

CIRCLE是一种基于固定双向二维储层特征(BiRC2D)的类增量分类器,使用流式线性判别分析(SLDA)头。它不需要回放、外部预训练或大初始任务。在CIFAR-100、TinyImageNet、ImageNet-Subset和ImageNet-1k数据集上,CIRCLE在10-20任务分割中表现有竞争力,在50、100和500任务分割中大幅超越现有强基线。同时训练速度远快于有回放的方法。消融实验表明,BiRC2D特征提取器、SLDA头和平衡特征/预测集成各自贡献了性能。

arXiv cs.AICold-start exemplar-free class-incremental learning requires learning a growing set of classes without replay, external pretraining, or a large initial task. Existing cold-start methods typically either train the backbon