跳到正文
arXiv · Machine Learning· Vedant Jumle·· 1 天前AI 评分71

研究激活引导作为记忆时哪些内容能够保留

What Survives When Activation Steering Is Used as Memory

AI 导读

该论文在冻结的 LLM 旁加入无需训练的激活记忆,测试经验造成的 late-layer 状态偏移能否跨会话保存事实与偏好。基于 Qwen3.5-2B 和 9B、四个模型家族的评审,约 98% 的无关回复保持不变,但事实的 clean use 最多为 15%,低于上下文中的 96-98%;偏好还会受到写入时参考项的影响,未减去相反参考时,存储的 dislike 可能被回忆为 like。

来源:arXiv · Machine Learning · arxiv.org