arXiv · Machine Learning· Miao Lin, Feng Yu, Rui Ning, Lusi Li, Jiawei Chen, Qian Lou, Mengxin Zheng, Chunsheng Xin, Hongyi Wu·· 14 小时前AI 评分56
RPP：面向数据集不均衡后门攻击的可认证中毒样本检测框架
RPP: A Certified Poisoned-Sample Detection Framework for Backdoor Attacks under Dataset Imbalance
AI 导读
RPP 提出一种仅使用模型输出概率的黑盒中毒样本检测框架，用于判断输入是否遭到后门操纵，并提供域内可检测性保证和误报率概率上界。论文分析了数据集不均衡如何通过多数类偏置放大后门漏洞，并在 MNIST、SVHN、CIFAR-10、TinyImageNet 和 ImageNet10 五个基准上覆盖 10 种后门攻击与 12 种基线防御进行实验，RPP 的检测准确率高于现有防御方法。
来源：arXiv · Machine Learning · arxiv.org