视觉 Transformer 表征结构剖析：一项严谨的架构研究

研究人员系统分析不同架构规模下 Vision Transformer（ViT）的特征信息，揭示表征结构与泛化行为的关系，并据此指导高效架构设计。他们发现初始化时存在导致冗余的特征坍塌，且 token 空间特征比 embedding 空间特征更忠实地表征信息。所提代理指标相较既有基线将相关性排序提升 18-48%，可识别以较低或相近计算成本取得更高准确率的 ViT 架构。