跳到正文
arXiv · Machine Learning· Yu Li, Yufa Zhou, Tian Lan·· 8 小时前AI 评分52

训练与推理不匹配从何而来?论文解析 LLM 强化学习中的误差演化并提出 DLC 校正方法

On the Origin and Evolution of Training-Inference Mismatch in LLM Reinforcement Learning

AI 导读

Yu Li、Yufa Zhou 和 Tian Lan 的论文研究了大语言模型强化学习中的训练与推理不匹配问题,将其拆分为推理引擎数值差异和异步采样产生的策略滞后。

来源:arXiv · Machine Learning · arxiv.org