跳到正文
热点事件持续更新

GSI引入多重重要性采样扩展

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Joseph Rowan与Ashish J. Khisti提出将多重重要性采样用于引导式推测推理(GSI):多个小型语言模型生成推理草稿,再由较大的基础模型和过程奖励模型验证。论文给出相对于最优奖励倾斜目标分布的 KL 散度界和预期奖励损失界,并证明 balance heuristic 最优。 论文报告,在总样本数相同的条件下,多模型组合的下游 pass-at-N 表现仍有竞争力;当单一草稿模型的支持集未覆盖目标分布时,这种方法也能应对 GSI 可能失效的问题。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv · Machine Learning
    引导式推测推理(GSI)的多重重要性采样

    该研究将多重重要性采样(MIS)用于引导式推测推理(GSI),由多个小型LLM生成推理草稿,再由较大的基础模型和过程奖励模型验证。研究给出与最优奖励倾斜目标分布相关的 KL 散度界及预期奖励损失界,并证明 balance heuristic 最优。相同总样本数下,多模型组合保持有竞争力的 pass-at-N 下游表现,也能应对单一草稿模型支持集未覆盖目标分布时 GSI 可能失效的情况。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。