Papers11:29
Chinese contentDISCERN:无需保留集的增量式机器遗忘方法删数据不用重新训练模型,这论文给出了不用保留原始数据的增量遗忘方案,transformer 上删 20 类还很稳。
删数据不用重新训练模型,这论文给出了不用保留原始数据的增量遗忘方案,transformer 上删 20 类还很稳。
工业互联网上灾害种类不断冒新、样本又少,这篇论文的 CLAR 用潜在表示+注意力打分做回放式增量学习,还给了理论证明,搞边缘部署的可以看看。
宽学习系统的改进版来了:用层级引导决定新模块学什么,再用纠错码抵抗权重误差,10 个数据集上跑赢了原版 BLS 变体。
交通摄像头的模型更新包只要14.6KB,在ODinW-13和D-RICO上成绩不输大参数方案。
这篇论文提出了一种新的深度人工免疫网络,用结构化亲和力替代传统扁平向量,在MNIST等数据集上实现了不错的无回放增量学习效果,还分析了关键机制,挺有意思的。
联邦学习各客户端标签不同步?PRO用投影记忆代替生成回放,不用额外预训练,在异构环境下表现更稳,值得做增量学习的试试。
长对话场景(如客服、角色扮演)的开发者终于有了一个兼顾效率与保真度的压缩方案——C-DIC 能稳定处理数百轮对话,值得在长上下文任务中试试。
做持续学习或CLIP微调的团队,AREA把增量遗忘的根因拆解为属性提取与聚合两个环节,并给出了可落地的解耦方案,值得看看代码和实验细节。