Fair Cast 提出无偏舍入方法修复强化学习权重更新丢失

Andrew Gao 和 William Gao 提出 Fair Cast，通过随机舍入或误差反馈替代传统的四舍五入权重导出，并在实际推理副本上计算训练损失，以减少 bf16 精度限制造成的强化学习策略更新丢失及训练、推理不一致。 语言模型强化学习后训练通常以 fp32 保存主权重，再转换为 bf16 推理副本。由于 bf16 可表示数值之间的间距较大，传统舍入会使大量单步权重更新无法反映到推理副本中。Fair Cast 只需修改权重导出调用，不增加超参数；导出 17 亿参数模型额外耗时 22–38 毫秒。 在 Qwen3-0.6B 至 4B、采用 AdamW 和 Muon 的 25 组配对种子实验中，Fair Cast 有 18 组表现更好、6 组持平、1 组落后，平均提升 6.1 个百分点；在斑马谜题测试中，其成绩为 0.57±0.16，而传统舍入为 0.33±0.10。上述结果表明，该方法在论文测试范围内改善了训练效果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。