奖励训练边界保持研究
热点事件持续更新
奖励训练边界保持研究
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
YaJie Yin 的受控研究显示，在同系列 14B 模型上进行监督微调（SFT）后接 GRPO，模型面对证据不足的问题时，自发正确拒答率从 25%升至 100%；每组测试 40 个样本。对 281 条表述完整的主张，自动评估的错误拒答率为 1.1%，但主动核查数值或计算的表现仍接近于零。 结果仅适用于这项受控实验，评估来自模型会话而非人类专家；由于 SFT 阶段已达到饱和，研究无法单独识别 GRPO 的增量效果，也不能据此证明该方法适用于其他模型系列。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 12:00
《缺少形式化答案时的可训练边界保持》研究奖励训练对证据充分性判断的影响报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv · Machine Learning《缺少形式化答案时的可训练边界保持》研究奖励训练对证据充分性判断的影响
这项受控的 14B 同系列研究发现，SFT 后接 GRPO 的边界保持训练使模型在证据不足时自发正确拒答率从 25%升至 100%，每组 40 个样本。对 281 条表述完整的主张，自动评估的错误拒答率为 1.1%；研究同时观察到主动数值或计算核查仍接近于零。作者指出，结果限于该受控实验，评分来自模型会话，并非人类专家验证。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。