让大模型睡一觉：Google 的睡眠式持续学习

2026 年 10 月 28 日，Google Research 发布了一篇关于持续学习的博客，标题叫 The sleep framework。它要解决的是一个老问题：模型训练完之后，怎么继续学新东西，又不把旧知识忘掉。

「睡眠」在这里是比喻，不是让模型真的休息。论文把过程分成两段：一段整理记忆，一段做梦。两段都在固定架构和人工设定的训练规则里完成。

问题在哪

大模型的训练有一个明确的时间截止点。模型发布之后，现实世界继续变化，但权重不会自动更新。想让它记住新事实，最直接的办法是继续训练；可继续训练很容易带来灾难性遗忘——学了新的，旧的能力掉下去。

Google 的方案不是「少学一点」，而是给模型加一个离线阶段：白天接收的输入先放在短时记忆里，等「睡觉」时再决定哪些写进长期参数。

第一阶段：记忆巩固

这一段对应人类睡眠里的慢波睡眠。博客列了几个机制：

• 参数扩容与连续记忆层级：模型在睡眠时动态扩容，用 MoE 加 Hope 架构，把新的低秩专家接到稳定、低频的记忆块里，避免覆盖旧参数。
• 知识播种：把高频层里的短时记忆，通过广义知识蒸馏（GKD）和基于强化学习的模仿学习，转移到新扩出来的长期参数里。
• 同策略蒸馏：扩展后的学生模型在自采样序列上，从教师分布里学 token 级的反馈。
• 学会模仿：学生完成教师生成文本的前缀时，按语义相似度和编辑距离（Levenshtein distance）拿奖励。
• 突触修剪：记忆转移完成后，重置高频的临时参数，把容量让给下一次清醒期。

这一整套的目标不是「把所有细节都抄进参数」，而是找一组能同时保住模型行为和语义的紧凑方向。

第二阶段：做梦

这一段对应 REM 睡眠。模型不是简单拿自己的输出再训练一遍，而是做三件事：

• 随机专家选择：生成合成数据时，让 MoE 路由器随机激活非标准专家，逼模型把不同领域的知识混在一起，找潜在模式。
• 精选排练：模型生成「梦」样本，再用基于梯度的数据选择，挑出最可能提升整体能力的样本。
• 强化学习精修：对排名靠前的梦样本做监督微调，然后看下游任务有没有真的变好。

博客特别强调，做梦不是普通的自生成数据增强，而是一个「多样化、选择、巩固」更新的过程。

作者给出的结果

博客里的数字都来自作者自述：

• 连续翻译：在满语、Kalamang 这类未见语言上，多阶段评测里性能几乎不下降；对比之下，上下文学习、Cartridges 和监督微调在顺序学习中出现严重遗忘。
• 长上下文：在 BABILong 上，睡眠方法扩展到 10M token 仍接近完美，作者称优于 GPT-4 和 Titans。
• 事实知识：在 SQuAD 和持续预训练（CPT）上，单任务 48.9%，CPT 46.2%，超过基座模型、SFT 和 SEAL。
• 数学推理：在 AIME 24/25 和 HMMT 25 上，睡眠增强后的基座模型分别达到 79.2%、69.0% 和 46.1%，超过 SFT、GRPO 和 OPSD。

这些数字如果成立，意义在于「不换架构、不做全量重训，也能持续吸收新知识」。但它们是论文自己的评测，不是第三方复现。

为什么现在提这件事

DigitalToday 的报道给了一个背景：模型的训练数据有时间截止点，发布时就已经落后于现实。Google 的 Gemini 4 Argon 在 2026 年九月出现，训练数据也只到三月。睡眠框架想补的就是这段差距。

报道同时提到，Google 表示在商用部署前还需要进一步验证。这个表态很重要：它说明这套方法目前仍是研究阶段，不是可直接上线的方案。

需要保留的地方

• 这是研究论文与博客，未经同行评审，也没有第三方复跑。
• 所有性能数字由作者提供，评测集和训练细节需要看论文原文。
• 「睡眠」依赖参数扩容和 MoE 路由，普通开发者很难在本地复现。
• 持续学习还会带来安全问题：模型在部署后吸收的新知识，如何审核、如何回滚，博客没有展开。
• 博客说机制「完全在固定架构和人工设定的训练规则内」，这句话同时意味着它离自主进化还有距离。

参考来源

本文基于以下公开报道整理：

• The sleep framework: A new way for LLMs to retain knowledge in continual learning — Google Research 博客，2026-10-28
• Language Models Need Sleep: Self-Repair and Memory Consolidation Learning — arXiv 论文（由 Hacker News 条目摘要链接）
• Google proposes ‘sleep framework’ to help AI learn new knowledge without forgetting old information — DigitalToday，2026-10-30

本文由 AI 辅助整理，事实与引文来自 Google Research 博客、arXiv 论文链接与 DigitalToday 报道；未独立复跑实验，配图后续补充。