跳到正文
arXiv · Machine Learning· Xiuyi Lou, Zicheng Xu, Yu-Neng Chuang, Hoang Anh Duy Le, Zhaozhuo Xu, Guanchu Wang, Vladimir Braverman·· 23 小时前AI 评分63

TACO:面向尾部风险校准的 RLVR 信用分配方法

Right Answer, Wrong Tokens: Tail-Aware Credit Calibration for RLVR

AI 导读

论文提出 TACO(Tail-Aware Credit calibration),通过策略对采样 token 的局部预期评估其稀有度,并据此降低高尾部风险 token 获得的正向信用,同时保留非零权重。实验覆盖 4 个大语言模型和 8 个推理基准,结果显示 TACO 持续优于 GRPO 风格基线,并改善长周期强化学习中的训练稳定性。

来源:arXiv · Machine Learning · arxiv.org