Chinese contentScoreCLR 用去噪得分匹配估计对比学习斥力项,替代负样本批次
对比学习里估斥力要靠大批次,这篇论文换了个思路:用去噪得分匹配学一个斥力网络,成本从批大小平方降到线性。在 CIFAR-10 和 ImageNet-100 上和 SimCLR 打平,显存紧张的团队值得看看这套做法。
对比学习里估斥力要靠大批次,这篇论文换了个思路:用去噪得分匹配学一个斥力网络,成本从批大小平方降到线性。在 CIFAR-10 和 ImageNet-100 上和 SimCLR 打平,显存紧张的团队值得看看这套做法。