arXiv · Machine Learning· Raik Dankworth, Felix M\"achtle, Thomas Eisenbarth, Gesina Schwalbe·· 10 小时前AI 评分37
攻击逻辑而非输出：基于概念的属性攻击以消除神经网络捷径
Attack logics, not outputs: Concept-based Property Attacks for Shortcut Elimination in Neural Networks
AI 导读
研究提出针对神经网络概念层逻辑属性的对抗攻击方法，检验推理逻辑而非仅翻转最终分类输出。该方法借助概念可解释人工智能技术应用于已训练网络，并证明其搜索空间小于单纯的类别输出伪造。多模型和数据集实验显示，使用此类攻击进行对抗训练可保持传统对抗再训练带来的鲁棒性提升，同时更好地消除语义偏差。
来源：arXiv · Machine Learning · arxiv.org