arXiv · Machine Learning· Anne Harrington, Vasha DuTell, Ayush Tewari, Mark Hamilton, Simon Stent, Ruth Rosenholtz, William T. Freeman·· 10 小时前AI 评分31
探索学习得到的视觉表征中的感知直线性
Exploring perceptual straightness in learned visual representations
AI 导读
研究考察网络架构、不同类型的鲁棒性及生物启发滤波机制与时变输入下表征直线性的关系,发现对抗训练能让 CNN 和基于 Transformer 的架构产生更直的表征。该效应依赖任务,在分割和帧预测中不成立;更直的表征则能提升类别预测的时间稳定性,包括面对分布外数据时。生物启发元素可增强网络早期阶段的直线性,但不保证 CNN 下游层同步增强;直线性可作为衡量表征鲁棒性与稳定性的简便指标。
来源:arXiv · Machine Learning · arxiv.org