跳到正文
arXiv · Machine Learning· Jonas Loos, Oliver Eberle·· 8 小时前AI 评分60

KV-Cache Patching:追踪微调行为产生的位置与机制

KV-Cache Patching: Tracing How and Where Fine-Tuned Behaviors Arise

AI 导读

Jonas Loos 和 Oliver Eberle 提出通过在 LoRA 微调模型与原始基础模型之间双向替换 KV cache,研究微调行为产生的位置及其机制。

来源:arXiv · Machine Learning · arxiv.org