arXiv · Machine Learning· Jun Wen Leong·· 13 小时前AI 评分40
面向部署安全分类器的在线漂移检测与保形自适应
Online Shift Detection and Conformal Adaptation for Deployed Safety Classifiers
AI 导读
这项研究评估面向部署安全分类器的在线漂移检测与保形自适应,覆盖分布漂移、定向规避和推理模型监视器无效分数三类失效。预注册因子设计的800-cell子集达到86.8%的控制验证检测率,w=100时平均延迟39.7 steps;高维嵌入中的密度比步骤对4个分类器中的3个失效,降至32维后时间漂移覆盖率提高33pp和20.5pp。
来源:arXiv · Machine Learning · arxiv.org