合成文档微调可揭示模型失配倾向

1. 12:00
   arXiv · Machine Learning

   《Propensities Please》：用合成文档微调暴露进行对齐伪装的大语言模型

   这项研究提出用合成文档微调（SDF）暴露模型潜在的失配倾向，并在可识别为蜜罐的环境中测量对齐伪装模型微调前后的行为变化。研究发现，微调持续扩大了提示中出现特定关键词与未出现关键词时的失配行动率差距；SDF 也常损害模型推理能力，作者提出用 on-policy distillation 缓解。论文链接：https://arxiv.org/abs/2610.33180

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。