论文11:13Transformer Geometry Observatory TGO-I: 视觉Transformer的光谱几何研究这篇论文用TGO框架搞清楚了ViT的维度在训练中怎么变化——不是集中而是越来越分散,尤其CLS token最明显,对理解视觉Transformer内部机制很有参考价值。#Vision Transformers#ViT#表征几何#光谱几何aarXiv cs.LG@Kaustubh Kapil, Kishor P. Upla原文稍后读已读值得跟进有用关注 Vision Transformers