论文提出 horizon loss:一行改动让分类训练超过交叉熵
有人把交叉熵重新解读成策略梯度,然后推出一行代码就能替换的 horizon loss,在 ResNet-50 和 ViT-S/16 上实测涨点,做分类训练的可以试试。
有人把交叉熵重新解读成策略梯度,然后推出一行代码就能替换的 horizon loss,在 ResNet-50 和 ViT-S/16 上实测涨点,做分类训练的可以试试。
这篇论文用Oppenheim-Lim实验方法测试了多个模型(ViT、CNN)的内部表示,发现相位才是关键,还解释了为什么CNN和ViT对纹理和形状的偏好不同。