研究显示训练提高写作可预测性但评审偏向有限

对 OLMo-2 和 Zephyr 两个开放的 7B 参数模型家族的研究显示，从基础模型经过监督微调（SFT）和直接偏好优化（DPO）后，模型生成的短篇故事更熟悉、可预测性提高；但作为评审者时，几乎没有更偏向这类可预测文本。 研究人员分别测试了两个模型家族各训练阶段的故事写作和故事对评审表现。跨家族评估中，训练后故事的每 token 意外度下降：一个家族为 7.0%–9.2%，另一个为 24%–25%。研究结论仅适用于这两个模型家族及创意写作评审测试。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。