arXiv · Machine Learning· Hoang Phan, Xianjun Yang, Yuanshun Yao, Jingyu Zhang, Shengjie Bi, Xiaocheng Tang, Madian Khabsa, Lijuan Liu, Deren Lei·· 13 小时前AI 评分39
超越推理增益：缓解大型推理模型的通用能力遗忘
Beyond Reasoning Gains: Mitigating General-Capability Forgetting in Large Reasoning Models
AI 导读
研究提出 RECAP，一种带动态目标重加权的 replay 策略，用于缓解 RLVR 长期训练导致的大型推理模型通用能力遗忘。该机制根据收敛与不稳定性的短期信号在线调整训练重点，无需训练额外模型或复杂调参即可接入现有 RLVR 流程。在 Qwen2.5-VL-3B 和 Qwen2.5-VL-7B 的 benchmark 实验中，RECAP 保留了通用能力，并提升了推理表现。
来源：arXiv · Machine Learning · arxiv.org