10:44arXiv cs.LG@Lianghuan Huang, Yihao Li, Saeed Salehi, Yingshan Chang, Ansh Soni, Konrad P. Kording精选该论文从信息论角度形式化了视觉中的“绑定问题”,即系统如何知道哪些特征(如颜色、形状)属于同一个物体。研究者提出了一种探测方法,用于测量深度学习模型(尤其是Vision Transformers)内部表示中的绑定信息。实验发现,ViT的不同组件(如[CLS]标记和空间标记)包含不同程度的绑定信息,且在特征共享、遮挡等挑战性场景中表现差异显著。这项工作表明,绑定信息是强视觉识别与推理的关键要素,但目前模型仍存在特征误归因的常见失败。论文绑定问题Vision Transformer信息论视觉推理特征归因推荐理由:做视觉AI的开发者会关心:你的ViT模型真的理解“蓝色圆形”是一个整体吗?这篇论文给出了量化绑定信息的方法,值得点开看看如何诊断模型的结构性盲点。原文