研究引导向量用于大模型后训练

Tiejin Chen、Maunil Vyas、Huaiyuan Yao 和 Hua Wei 提出并验证将 Steering Vectors（引导向量）作为大语言模型后训练信号，覆盖监督微调、知识蒸馏和带可验证奖励的强化学习（RLVR）。 研究显示，这种方法的适用效果受具体场景限制：代码生成可能改变引导方向，跨模型家族迁移可能改变向量放置层，且在已用引导向量训练的模型上于推理时应用干预，可能改变干预机制。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。