跳到正文
arXiv · Machine Learning· Tiejin Chen, Maunil Vyas, Huaiyuan Yao, Hua Wei·· 8 小时前AI 评分53

Steering Vectors 作为大语言模型后训练的训练信号

Steering Vectors as a Training Signal in LLM Post-Training

AI 导读

这项研究探索将 Steering Vectors(引导向量)作为训练信号,用于大语言模型的后训练,覆盖监督学习中的 SFT(监督微调)与蒸馏,以及带可验证奖励的强化学习(RLVR)。

来源:arXiv · Machine Learning · arxiv.org