跳到正文
热点事件持续更新

研究提出RECAP以缓解推理训练中的能力遗忘

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

Hoang Phan等提出RECAP,一种为RLVR训练加入动态目标重加权的回放策略;研究报告称,在Qwen2.5-VL-3B和Qwen2.5-VL-7B的基准实验中,该方法保留了通用能力并提升推理表现。 RLVR长期训练可能使大型推理模型遗忘通用能力。RECAP根据训练中收敛与不稳定性的短期信号在线调整训练重点,作者称它无需额外训练模型或复杂调参即可接入现有流程。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv · Machine Learning
    超越推理增益:缓解大型推理模型的通用能力遗忘

    研究提出 RECAP,一种带动态目标重加权的 replay 策略,用于缓解 RLVR 长期训练导致的大型推理模型通用能力遗忘。该机制根据收敛与不稳定性的短期信号在线调整训练重点,无需训练额外模型或复杂调参即可接入现有 RLVR 流程。在 Qwen2.5-VL-3B 和 Qwen2.5-VL-7B 的 benchmark 实验中,RECAP 保留了通用能力,并提升了推理表现。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。