arXiv · Machine Learning· Arman Nik Khah, Arvin Bahreini·· 10 小时前AI 评分66
《评审者是自己的双胞胎吗?》后训练提高模型写作的可预测性,却几乎未使评审偏向可预测文本
Is the Judge Its Twin? Post-training makes a model's writing more predictable but barely moves its taste, as a judge, toward predictable writing
AI 导读
这项研究追踪 OLMo-2 和 Zephyr 两个开放的 7B 参数模型家族从基础模型到 SFT、DPO 阶段,分别测量其短篇故事写作和故事对评审表现。作为写作者,模型生成的故事随训练阶段变得更熟悉;跨家族评估中,训练后故事的每 token 意外度分别降低 7.0%–9.2% 和 24%–25%。
来源:arXiv · Machine Learning · arxiv.org