跳到正文
arXiv · Machine Learning· David Arbour, Erfan Jahanparast, Serina Chang, Avi Feller·· 13 小时前AI 评分47

Neyman 正交激活引导

Neyman Orthogonal Activation Steering

AI 导读

这篇论文为大语言模型的激活引导提出基于 Stein score 的互补估计器,并将两条估计路径结合为具有经典双重稳健性的正交化估计器。论文将现有方法重新表述为平均结果回归梯度的 plug-in 估计器,扩展到对数概率和 oracle 评分等连续结果。该框架在多个 benchmark 数据集上进行了激活引导实验。

来源:arXiv · Machine Learning · arxiv.org