跳到正文
arXiv · Machine Learning· Junxing Hu, Zicheng Zhang, Zhiqian Zhang, Ai Han, Yifeng Zhang, Pengzhang Liu, Ling Li·· 10 小时前AI 评分47

Info-GRPO:面向长轨迹推理的相关性感知探索

Correlation-Aware Exploration for Long-Trace Reasoning

AI 导读

Info-GRPO通过在训练提示中加入潜变量种子,使策略探索与潜在先验相关联,以缓解长推理轨迹中探索与熵收敛的冲突。AIME24上,其在四种骨干模型上的Avg@8较GRPO分别提升3.75%、1.66%、4.16%和4.17%。达到相同多数投票准确率时,Info-GRPO所需样本数减少至八分之一。

来源:arXiv · Machine Learning · arxiv.org