跳到正文
热点事件持续更新

YOPO让冻结语言模型单次前向传播同时回答与拒答

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

研究人员提出YOPO,使冻结语言模型无需修改模型权重,就能在单次前向传播中同时生成答案并判断是否应当拒答。在Qwen2.5-1.5B的αNLI任务中,三分类准确率从0.38提升至约0.75。 YOPO通过隐藏状态修复减少回答与拒答判断之间的干扰:研究人员使用一个仅通过无标签数据训练的小型映射网络,从编辑后的隐藏状态重建未编辑状态,在1.5B模型上消除了63%的干扰。论文还称,该方法在涵盖6个模型家族的9个骨干模型上,均接近双次前向传播基准的表现,且无需针对不同骨干模型调整超参数。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. arXiv · Machine Learning
    You Only Pass Once:冻结语言模型如何在单次前向传播中同时回答与拒答

    论文提出 YOPO,使冻结语言模型能够在单次前向传播中同时生成答案并判断是否应当拒答,无需修改模型权重。在 Qwen2.5-1.5B 的 αNLI 任务上,三分类准确率从 0.38 提升至约 0.75;通过无标签训练的小型映射网络重建未编辑的隐藏状态,消除了 63% 的干扰。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。