睡眠框架：让 LLM 在持续学习中保留知识的新方法

Google Research提出睡眠框架，让LLM通过周期性的主动交互与离线记忆巩固持续学习。该框架在睡眠阶段扩展 MoE 记忆模块并用自生成练习样例更新权重，使模型能够吸收新事实、保留长达 10M tokens 的长上下文知识，并提升复杂推理能力；其运行遵循固定模型架构和人工定义的训练规则。