AITOP

CIFAR-100

共 4 条相关 AI 资讯
8月24日
10:05
10:05官方账号arXiv cs.LG@James Hartley, Zeropy Surio, Daniel Whitmore, Hannah Clarke, Thomas Reed
精选
SPARCL通过分解运行自相关，冻结旧类分类器组件，并仅通过递归最小二乘法更新残差块，解决了分析持续学习中的遗忘问题。在多个数据集上，SPARCL缩小了经典分析学习者和强大表示匹配器之间的差距。
论文持续学习光谱分区递归最小二乘法
推荐理由：SPARCL解决了分析持续学习中的遗忘问题，缩小了经典分析学习者和强大表示匹配器之间的差距，值得一试。
原文
8月3日
09:44
7月30日
09:26
09:26官方账号arXiv cs.LG@Fengming Yu, Haiwei Pan, Kejia Zhang, Chunling Chen, Jian Guan, Baoying Ma
CoCaRS 提出一种基于相关校准的冗余抑制方法，用于解决异构知识蒸馏中教师和学生模型架构差异导致的表示不一致问题。该方法通过混淆证据估计和强度分配控制校准特征去相关，并采用自适应系数调节降低对超参数的敏感性。在 CIFAR-100 和 ImageNet-1K 上的实验验证了 CoCaRS 能提升蒸馏性能并减少系数设置敏感度。
论文CoCaRS知识蒸馏异构知识蒸馏
推荐理由：想提升异构模型蒸馏效果？CoCaRS 用三种新模块解决特征冗余和系数敏感问题，实验在 CIFAR-100 和 ImageNet-1K 上表现更好。
原文
7月3日
09:03
09:03官方账号arXiv cs.LG@Di Wu, Huan Liu, Zhixiang Chi, Yuanhao Yu, Konstantinos N. Plataniotis, Yang Wang
新提出的 DNG-Encoder 用动态图表示神经网络推理的层间时序特征，解决了现有权重空间方法忽略顺序处理的问题。基于该编码器构建的 INR2JLS 框架，在 CIFAR-100-INR 分类任务上达到当前最优，准确率提升约 10%。实验涵盖多个下游任务，展示了权重空间动态建模的有效性。
AI模型DNG-EncoderINRCIFAR-100
推荐理由：想搞权重空间分析的可以看看，这篇用动态图编码推理过程，在 INR 分类上直接提了 10 个点，挺实在的。
原文