arXiv · Machine Learning· Ziyang Luo, Zhongyao Chu, Xinjie He, Youting Wang, Xukui Qin, Runxiong Wu, Yan-Syuan Chen·· 8 小时前AI 评分69
You Only Pass Once:冻结语言模型如何在单次前向传播中同时回答与拒答
You Only Pass Once: Answering and Abstaining Together in a Single Forward Pass of a Frozen Language Model
AI 导读
论文提出 YOPO,使冻结语言模型能够在单次前向传播中同时生成答案并判断是否应当拒答,无需修改模型权重。在 Qwen2.5-1.5B 的 αNLI 任务上,三分类准确率从 0.38 提升至约 0.75;通过无标签训练的小型映射网络重建未编辑的隐藏状态,消除了 63% 的干扰。
来源:arXiv · Machine Learning · arxiv.org