推理模式提高模型预测一致性,但长推理个体更易引发分歧
热点事件持续更新
推理模式提高模型预测一致性,但长推理个体更易引发分歧
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Mila Gorecki 和 Moritz Hardt 的研究发现,主动启用推理会提高不同语言模型对同一个体的预测一致性,但引发较长推理过程的个体反而更容易导致模型间预测分歧。 研究比较了来自两个开发者的9个模型在3项分类任务上的表现。研究人员发现,这两种现象在控制模型准确率差异后仍然存在,表明启用推理与个体引发较长推理轨迹对模型预测一致性的影响并不相同。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
Does Reasoning Make Language Models Agree? 推理是否会提高语言模型的一致性?报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv · Machine LearningDoes Reasoning Make Language Models Agree? 推理是否会提高语言模型的一致性?
Mila Gorecki 和 Moritz Hardt 研究发现,主动提高语言模型的推理力度会增加不同模型对同一个体预测的一致性,而产生较长推理轨迹的个体反而更容易引发模型间预测分歧。研究在来自两个开发者的9个模型和3项分类任务上进行比较,并将模型一致性与准确率所预期的一致性进行对照。两种现象在控制准确率差异后依然存在,说明主动增加推理与观察到较长推理轨迹对应着不同的一致性变化。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。