研究提出概念属性对抗攻击方法

Raik Dankworth等研究者提出针对神经网络概念层逻辑属性的对抗攻击方法，并将鲁棒性检验从最终分类是否出错扩展到模型推理是否违反概念关系。方法利用可解释概念约束，例如“红色且八边形应为停车标志”，寻找违反约束的输入；报道指出，其搜索空间小于单纯伪造类别输出。 研究者在多个模型和数据集上进行实验，涵盖视觉任务和安全相关的代码处理任务。实验结果显示，用这类攻击进行对抗训练可保留传统对抗再训练带来的鲁棒性提升，同时更好地消除语义偏差。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。