AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:类增量学习×
6月26日
09:52
09:52arXiv cs.AI@Augustinas Jučas, Yangchen Pan
CIRCLE是一种基于固定双向二维储层特征(BiRC2D)的类增量分类器,使用流式线性判别分析(SLDA)头。它不需要回放、外部预训练或大初始任务。在CIFAR-100、TinyImageNet、ImageNet-Subset和ImageNet-1k数据集上,CIRCLE在10-20任务分割中表现有竞争力,在50、100和500任务分割中大幅超越现有强基线。同时训练速度远快于有回放的方法。消融实验表明,BiRC2D特征提取器、SLDA头和平衡特征/预测集成各自贡献了性能。
论文CIRCLEBiRC2DSLDA持续学习类增量学习

推荐理由:这篇论文提出CIRCLE方法:用固定储层特征做持续学习,无需回放,在长任务序列上比现有方法更快更准确。
原文
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
09:47
09:47arXiv cs.LG@Thinh T. H. Nguyen, Khoa D. Doan, Binh T. Nguyen, Danh Le-Phuoc, Kok-Seng Wong
论文提出PRO框架,用投影排练编排替代合成输入回放,在服务器维护紧凑的类级投影记忆。客户端通过平衡伪多任务训练结合当前样本和旧投影记忆。进一步提出的PRO-MAX增加了邻域加权记忆对齐。在图像、文本、图基准上,PRO和PRO-MAX在异构流下提升了保留率和最终效用,而基线即便扩大回放预算仍因监督不平衡退化,证明回放数量不足以解决质量问题。
论文联邦学习类增量学习记忆回放投影排练异构任务流

推荐理由:联邦学习各客户端标签不同步?PRO用投影记忆代替生成回放,不用额外预训练,在异构环境下表现更稳,值得做增量学习的试试。
原文
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
5月28日
11:57
11:57arXiv cs.LG@Zhen-Hao Xie, Yu-Cheng Shi, Da-Wei Zhou
本文提出AREA方法,针对CLIP模型在类增量学习(CIL)中的灾难性遗忘问题。传统CLIP通过模板提示(如“一张[类别]的照片”)进行视觉与文本嵌入的相似度匹配,但该过程可分解为属性提取与属性聚合两个阶段。由于增量学习仅能访问当前任务数据,模型容易偏向新类别。AREA通过主测地线分析在超球面嵌入空间锚定属性,并引入轻量级任务专家与变分信息瓶颈正则化来稳定聚合。推理时利用最优传输进行任务属性流路由,实现更精确预测。实验表明,AREA在多个基准上超越现有最先进方法。
论文类增量学习CLIP属性提取灾难性遗忘最优传输

推荐理由:做持续学习或CLIP微调的团队,AREA把增量遗忘的根因拆解为属性提取与聚合两个环节,并给出了可落地的解耦方案,值得看看代码和实验细节。
原文
精选全部日报登录