SMDA追踪训练数据对行为策略的影响
热点事件持续更新
SMDA追踪训练数据对行为策略的影响
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
Reza Habibi、Darian Lee 和 Magy Seif El-Nasr 提出 SMDA，将训练样本归因到影响模型行为的可解释符号策略；在 Llama-3.2-3B-Instruct 的拒答策略分析中，移除相关样本后重新训练，准确率较完整微调最高提升 4.5 个百分点。 该方法使用基于稀疏自编码器特征的闭式 Ridge 回归分析 200 个 SFT 样本，识别出宗教刻板印象等安全行为缺口以及跨特征干扰。
AI 根据报道生成 · 59 分钟前更新
最新进展10月16日 12:00
Symbolic Mechanistic Data Attribution：追踪训练数据对模型行为策略的影响报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- arXiv · Machine LearningSymbolic Mechanistic Data Attribution：追踪训练数据对模型行为策略的影响
论文提出 Symbolic Mechanistic Data Attribution（SMDA），用基于稀疏自编码器特征的闭式 Ridge 回归，将训练样本归因到可解释的行为策略。作者在 Llama-3.2-3B-Instruct 的拒答策略上分析了 200 个 SFT 样本，发现宗教刻板印象等安全行为缺口及跨特征干扰；移除相关样本后重新训练，准确率较完整微调最高提升 4.5 个百分点。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。