arXiv · Machine Learning· Reza Habibi, Darian Lee, Magy Seif El-Nasr·· 17 小时前AI 评分65
Symbolic Mechanistic Data Attribution：追踪训练数据对模型行为策略的影响
Symbolic Mechanistic Data Attribution: Tracing Training Influence to Learned Behavioral Policies
AI 导读
论文提出 Symbolic Mechanistic Data Attribution（SMDA），用基于稀疏自编码器特征的闭式 Ridge 回归，将训练样本归因到可解释的行为策略。作者在 Llama-3.2-3B-Instruct 的拒答策略上分析了 200 个 SFT 样本，发现宗教刻板印象等安全行为缺口及跨特征干扰；移除相关样本后重新训练，准确率较完整微调最高提升 4.5 个百分点。
来源：arXiv · Machine Learning · arxiv.org