PapersBuilders09:39Chinese contentNS-Attn:用 Newton-Schulz 变换注意力输出提升 ViT 准确率把 Muon 里那套 Newton-Schulz 迭代搬到注意力输出上,不加参数,ViT 和 Swin 在 CIFAR 上 12 组对比全涨,代价是推理变慢一点。#ViT#Swin#Newton-Schulz#MuonaarXiv cs.LG@Xiaohe Jiang et al. (4)SourceRead laterReadWorth followingUsefulFollow ViT