arXiv · Machine Learning· Christoffer Koo {\O}hrstr{\o}m, Rafael I. Cabral Muchacho, Yifei Dong, Filippos Moumtzidellis, Ronja G\"uldenring, Florian T. Pokorny, Lazaros Nalpantidis·· 8 小时前AI 评分47
PaPE:面向视觉模态的抛物线位置编码方法
Parabolic Positional Encoding: A Vision-Centric, Principled, Extrapolatable, and General Approach
AI 导读
PaPE(Parabolic Positional Encoding)提出一种基于抛物线的位置编码方法,面向视觉 Transformer 等注意力架构中的图像、视频、事件相机数据流和点云。该方法融合平移不变性、旋转不变性、距离衰减、方向性和上下文感知,在 ImageNet-1K 外推实验中较次优编码方法绝对提升最高达 10.5,并在8个数据集、4种模态的泛化实验中取得竞争性结果。
来源:arXiv · Machine Learning · arxiv.org