arXiv · Machine Learning· Tiejin Chen, Xiaoou Liu, Hanyang Chen, Hua Wei·· 13 小时前AI 评分36
ST-OPSD 引导教师模型，改进思考模型的 On-Policy Self-Distillation
Steering the Teacher: Improving On-Policy Self-Distillation for Thinking Models
AI 导读
研究者提出 ST-OPSD，通过激活引导改进思考模型的 on-policy self-distillation（OPSD），抑制参考幻觉并鼓励模型复核不确定步骤。在 AIME 和 HMMT 上，ST-OPSD 准确率优于 vanilla OPSD 及其他干预，并将复核与参考幻觉率恢复至基础模型水平。
来源：arXiv · Machine Learning · arxiv.org