arXiv · Machine Learning· Yu Li, Yufa Zhou, Tian Lan·· 8 小时前AI 评分52
训练与推理不匹配从何而来?论文解析 LLM 强化学习中的误差演化并提出 DLC 校正方法
On the Origin and Evolution of Training-Inference Mismatch in LLM Reinforcement Learning
AI 导读
Yu Li、Yufa Zhou 和 Tian Lan 的论文研究了大语言模型强化学习中的训练与推理不匹配问题,将其拆分为推理引擎数值差异和异步采样产生的策略滞后。
来源:arXiv · Machine Learning · arxiv.org