arXiv · Machine Learning· Joseph Rowan, Ashish J. Khisti·· 10 小时前AI 评分40
引导式推测推理(GSI)的多重重要性采样
Multiple Importance Sampling for Guided Speculative Inference
AI 导读
该研究将多重重要性采样(MIS)用于引导式推测推理(GSI),由多个小型LLM生成推理草稿,再由较大的基础模型和过程奖励模型验证。研究给出与最优奖励倾斜目标分布相关的 KL 散度界及预期奖励损失界,并证明 balance heuristic 最优。相同总样本数下,多模型组合保持有竞争力的 pass-at-N 下游表现,也能应对单一草稿模型支持集未覆盖目标分布时 GSI 可能失效的情况。
来源:arXiv · Machine Learning · arxiv.org