Chinese contentNatural PC:用侧向回路实现局部自然梯度学习,效率超反向传播
做生物启发学习或替代 BP 训练的人该看看这篇:预测编码加上一个侧向回路,就能隐式算 Fisher 逆矩阵。在 ImageNet 上比 AdamW 训的 BP 省一个数量级算力、两个数量级样本,性能还不掉。
做生物启发学习或替代 BP 训练的人该看看这篇:预测编码加上一个侧向回路,就能隐式算 Fisher 逆矩阵。在 ImageNet 上比 AdamW 训的 BP 省一个数量级算力、两个数量级样本,性能还不掉。