arXiv · Machine Learning· Shangxi Wu, Xiaorong Yan, Xiaojun Meng, Yuxiang Zhang, Jiansheng Wei·· 13 小时前AI 评分37
ECHO：通过动态反馈预防灾难性遗忘的熵控制稳态优化
Entropic Control for Homeostatic Optimization: Pre-empting Catastrophic Forgetting via Dynamic Feedback
AI 导读
ECHO 是一种面向 LLM 监督微调（SFT）的闭环控制框架，通过输出熵作为在线代理实时监测灾难性遗忘风险，无需参考模型推理。该框架用比例控制律动态调节 replay 数据的梯度权重，在 0.6B 至 9B 参数模型评测中处于或拓展了观察到的 plasticity-stability frontier，并对不同数据混合比例保持较高运行稳健性。
来源：arXiv · Machine Learning · arxiv.org