arXiv · Machine Learning· Bryce Grant, Peng Wang·· 8 小时前AI 评分56
Gluing Local Contexts into Global Meaning：基于层论分解 Transformer 表征
Gluing Local Contexts into Global Meaning: A Sheaf-Theoretic Decomposition of Transformer Representations
AI 导读
Bryce Grant 和 Peng Wang 提出一种基于层论（Sheaf Theory）的 Transformer 表征分解方法，通过释义图构建 cellular sheaf，并利用冻结模型的拉普拉斯算子识别释义之间保持一致的内容子空间，无需训练。
来源：arXiv · Machine Learning · arxiv.org