arXiv · Machine Learning· David Arbour, Erfan Jahanparast, Serina Chang, Avi Feller·· 13 小时前AI 评分47
Neyman 正交激活引导
Neyman Orthogonal Activation Steering
AI 导读
这篇论文为大语言模型的激活引导提出基于 Stein score 的互补估计器,并将两条估计路径结合为具有经典双重稳健性的正交化估计器。论文将现有方法重新表述为平均结果回归梯度的 plug-in 估计器,扩展到对数概率和 oracle 评分等连续结果。该框架在多个 benchmark 数据集上进行了激活引导实验。
来源:arXiv · Machine Learning · arxiv.org