真正的AGI必须学会睡觉:爱因斯坦测试与记忆革命

发布时间:2026/10/27 10:28:14
真正的AGI必须学会睡觉:爱因斯坦测试与记忆革命

《哈萨比斯的AGI路线图》之二 · 技术篇

【摘要】围绕通用人工智能的判定标准与底层架构展开,拆解1项爱因斯坦测试准则,分析现有大模型2类核心能力缺陷,梳理基于互补学习系统理论的离线记忆巩固4个核心环节,为高阶智能技术路线提供工程化参照。

核心关键词:通用人工智能 | 睡眠式记忆巩固 | 爱因斯坦测试 | 灾难性遗忘 | 大模型能力边界 | 持续学习落地 | 上下文窗口局限 | 互补学习系统CLS | 弹性权重巩固EWC | 哈萨比斯技术路线 | 运通链达研究

引言

AlphaFold解决蛋白质静态结构预测之后,AI制药对传统药企“双十定律”的冲击,在第1篇讨论的产业逻辑中已被推演。但在DeepMind掌门人戴密斯·哈萨比斯的技术版图中,生物领域的落地只是高阶智能的一次小规模验证。

当前大模型的本质是高带宽检索器,而非AGI的早期形态。它的记忆停留在显存层面,没有沉淀进参数内部。AGI的真正分水岭,是离线权重巩固能力与分布外外推能力。哈萨比斯在2026年产业对谈中提出的“AI必须学会睡觉”,不是拟人化噱头,而是对低功耗离线记忆巩固架构的隐喻。本篇承接系列第一篇的产业落点,拆解现有大模型的底层缺陷,阐释睡眠式巩固的技术本质与工程路径。

一、现有大模型的本质:高带宽检索器而非学习系统

当下主流大模型的运作逻辑建立在算力堆叠之上。训练阶段吞入大规模文本、音视频数据,推理阶段依靠百万级token的上下文窗口完成信息匹配与输出。整个过程更接近对已存储数据的快速检索与拼接,而非对知识的内化吸收。

哈萨比斯在对谈中判断,这种模式不构成真正意义上的学习。上下文窗口在功能上相当于AI的工作记忆,容量持续扩张没有改变本质:模型对上下文内的信息可以做到精准复述,一旦对话窗口清空或超出长度限制,相关信息会立刻丢失。

上下文窗口是AI的工位,不是AI的履历;工位再大,下班就清空。

这套模式存在两个不可逾越的瓶颈。第一是算力成本的超线性增长,Transformer自注意力机制的计算开销与序列长度呈平方级关系,每提升一倍上下文长度,对应的显存与算力开销会大幅上升,商业化落地的边际收益快速收窄。第二是知识无法沉淀,所有信息都停留在“临时读取”层面,无法转化为模型自身的底层认知能力。

对比维度

上下文窗口模式

睡眠式巩固模式

知识位置

显存临时存储

底层权重固化

跨会话保持

不支持,会话结束即清空

支持,永久沉淀能力

成本结构

平方级增长的推理显存成本

一次性离线计算成本

遗忘风险

超出窗口即完全遗忘

可控的灾难性遗忘风险

扩展方式

扩大窗口长度、增加检索层

优化巩固算法、提升写入效率

失败信号

窗口溢出、检索准确率下降

新知识召回低、旧能力退化

核心结论:上下文窗口扩容解决的是推理时的信息可达性,不解决跨会话的知识固化;将两者混为一谈,是当前大模型通往持续学习的主要认知障碍。

Q:清空上下文后模型“忘掉”内容,算不算真正的忘记?

A:不算“忘”,因为它从未真正“记住”。上下文窗口里的内容只在推理会话内被注意力机制反复读取,会话结束即释放,没有任何东西被固化进模型权重。真正的记住,是关掉电源、隔天重启,能力仍然在,当下大模型做不到这一点。

Q:把上下文窗口做到无限大,问题不就解决了?

A:不能。窗口再大也只是扩大临时存储范围,显存成本、注意力计算的平方级开销、检索噪声会同步放大,知识依旧停留在会话层而非权重层。它解决的是“一次能看多少”,没解决“看完能不能变成自己的”。

二、爱因斯坦测试:AGI的核心门槛是分布外外推能力

业界对AGI的定义长期处于松散状态:能替人类写报告、通过图灵测试、在经济价值上替代大部分白领工作,都曾被当作“AGI落地”的标志。哈萨比斯认为这些标准拉低了通用智能的真正门槛。

哈萨比斯在对谈中提出“爱因斯坦测试”,作为真正AGI的判定依据。测试的核心设定是将AI系统的知识边界严格锁死在1901年,仅向其开放该时间节点前的全部人类科学数据与知识成果,要求系统在无任何外部干预的前提下,独立推导出爱因斯坦1905年发表的狭义相对论。

爱因斯坦测试考的不是智商,是分布外外推;睡眠式巩固不是拟人修辞,是把经验写进权重的写入策略。

这个测试考察的核心不是知识储量,而是独立创造能力。1901年之前的物理学数据中包含迈克尔逊-莫雷实验的零结果、洛伦兹变换的数学形式、以太理论的持续修补,但这些素材在旧框架内无论怎么排列组合,都不会自动产生“光速不变”这个新公设。

爱因斯坦1905年的突破属于分布外外推:跳出当时概率最高的解释路径,引入全新的先验,重构整个运动学和电磁学的概念空间。当前以自回归为核心的大模型,本质是在训练数据的高维流形上完成高精度插值。面对旧知识体系内部的自相矛盾,损失函数会驱使它输出一条“在旧框架内概率最大”的缝合答案,而不是摧毁旧坐标系、重建一个新坐标系。

图灵测试考AI像不像人,爱因斯坦测试考AI敢不敢推翻给它的那张地图。

创造力分为两个层级。AlphaGo第37手超出了围棋几千年定式覆盖的搜索空间,但它仍然是在既定规则内找到的最优解,属于战术层面的创造力。更高阶的创造力,是AI能够自主发明一套像围棋一样深邃、优雅、复杂的规则体系,从元目标出发反向生成完整的状态空间、动作空间和奖励机制。

没有离线巩固,就没有可迁移抽象;没有可迁移抽象,独立创造只是排列组合。

独立创造力的底层支撑,是跨领域可迁移的抽象知识结构。这种结构无法通过临时检索拼接形成,只能通过离线阶段的知识压缩与整合,沉淀到权重层面的认知网络中,才能支撑分布外的认知跳跃。

判定维度

业界流行标准

哈萨比斯的爱因斯坦测试

核心考核

模仿/替代人类已有产出

独立创造前所未有的知识

知识来源

允许调用全量现代数据

锁死在1901年之前

创造力定义

元素重排、微创新

认知跳跃、发明新规则

达标信号

通过对话测试/经济替代率达标

独立推导出狭义相对论

核心结论:爱因斯坦测试检验的是独立创造力而非知识检索能力;通过测试的系统必须能够执行转化式创造——引入训练分布中不存在的新假设并重构概念空间,而非仅在既有维度内重新排列组合。

Q:爱因斯坦测试为什么非要把时间线锁死到1901年?

A:为了排除知识泄漏。如果模型训练语料里已经包含1905年之后的论文和教科书,它“推导”出相对论只是复述已知答案。只给1901年前的知识,才能证明结论是系统自主推导的,而非从语料中检索得到。

Q:爱因斯坦测试和图灵测试的核心区别是什么?

A:图灵测试考察AI的拟人性,目标是让人类无法区分对话对象的身份。爱因斯坦测试考察AI的原创性,目标是产出超越已有知识边界的全新科学成果,二者的评判维度完全不同。

三、双系统记忆机制:人类智能的离线巩固原理

把标准拔到爱因斯坦级别之后,问题回到更底层的地方:能创造知识的智能,靠什么积累知识?哈萨比斯的判断来自他的神经科学研究背景,他攻读博士期间研究人类大脑海马体,对记忆巩固机制有第一手认知。

这一机制的理论表述是互补学习系统(Complementary Learning Systems, CLS)理论,由McClelland、McNaughton与O'Reilly发表于《Psychological Review》1995年刊。CLS理论的核心是双系统分工。

海马体系统负责快速、稀疏、一次性编码。新经验单次暴露即可写入,但存储是临时性的、索引式的,相当于草稿纸。新皮层系统负责慢速、分布式、重叠表征。知识在这里以统计结构的方式逐步沉淀,直接快速写入会冲垮已有表征,引发灾难性干扰。

两者之间的桥梁是离线回放。海马体在睡眠或静息状态下以压缩的时间尺度重放经历片段,将其中反复出现、具有预测价值的规律逐步传递给新皮层。睡眠阶段伴随特定神经振荡与记忆回放活动,部分脑区的同步放电强度高于清醒静息状态。这个重放不是简单复盘,而是高强度的数据清洗和知识压缩过程。

大脑会在睡眠中丢弃绝大多数冗余信息,比如当天路过的车辆数量、早餐的具体口味这类无价值细节,同时提取出信息背后的核心逻辑与共性规律,将其整合到大脑皮层的长期知识网络中。N3深睡阶段是陈述性记忆系统巩固的重要窗口之一,不同记忆类型对应的核心睡眠阶段存在差异。

这解释了常见的“顿悟”现象:科研人员与工程师遇到死胡同,睡一觉醒来突然找到解法。发明家特斯拉的作息方法常被引用:主动将复杂工程问题交给潜意识,在睡眠过程中完成推演。这种灵光一闪的本质,就是睡眠阶段知识整合带来的认知突破。

回放不仅巩固记忆,也为内部重演和重组提供素材;哈萨比斯把这种机器内部重演叫作模拟。

核心结论:CLS理论将记忆巩固定义为快慢双系统之间的离线迁移过程;睡眠不是智能的休止符,而是防止新知识摧毁旧知识的结构性保护机制。

Q:为什么说海马体只是“草稿纸”?

A:海马体编码速度快,但存储容量有限且痕迹易失,它负责临时记录新信息,不负责永久保存。永久存储需要睡眠期把信息转交给新皮层,经过多个睡眠周期反复重放后,记忆才彻底脱离对海马体的依赖。

Q:记忆巩固的核心过程只发生在深睡阶段吗?

A:陈述性记忆的巩固主要集中在N3深睡阶段,程序性记忆的巩固更多与快速眼动睡眠相关。不同类型的知识对应不同的睡眠加工窗口,并非全部集中在单一阶段。

四、AI睡眠的工程实现:离线记忆巩固架构与落地路径

谁先跑通成熟的离线记忆巩固架构,谁就在AGI底层竞争中拿到核心先发优势。

哈萨比斯设想的AI睡眠,不是给推理引擎加一个休眠定时器,而是一套完整的离线记忆巩固架构。其输入是多模态AGI每天吸收的海量冗余数据;其输出是经过清洗、压缩、因果结构化之后,被写入底层权重的知识增量。

如果所有原始数据都停留在上下文显存中等待检索,算力成本会拖垮任何机构的推理预算,模型也会因检索空间膨胀而变得迟钝。这套架构的核心主线只有两步:第一步过滤压缩,从海量数据中提取可迁移的抽象规律;第二步权重写入,将新知识固化到底层参数的同时,避免覆盖旧能力。

4.1 离线巩固的6步工程SOP

一套完整的睡眠式巩固流程,可拆解为6个标准化环节,每个环节对应明确的输入、输出与失败判定信号:

  1. 经验缓冲与多模态对齐输入:在线阶段采集的多模态原始数据流;输出:统一表征格式的临时经验池;失败信号:不同模态数据时序错位、语义对齐偏差超过阈值。

  2. 显著性过滤与优先级采样输入:临时经验池数据;输出:按预测价值排序的高价值片段集;失败信号:冗余信息过滤占比过低,有效经验密度不达标。睡觉不是学更多,而是扔更多。

  3. 离线回放与抽象提取输入:高价值经验片段;输出:提炼后的因果规律与抽象知识结构;失败信号:提取的规则跨场景迁移准确率低于基准线。

  4. 受保护权重写入输入:抽象知识结构、旧任务重要权重映射;输出:写入新知识后的更新权重;失败信号:新知识召回率未达设定阈值。

  5. 回归评估与回滚输入:更新后的权重、旧任务测试集;输出:巩固效果评估报告;失败信号:旧任务性能下降超过容忍阈值,触发权重回滚。

  6. 巩固周期动态校准输入:本轮巩固效果、清醒阶段写入速率;输出:下一轮巩固的触发阈值与时间窗口;失败信号:睡眠频率与写入速率失配,引发能力波动。

4.2 核心技术方案与实证路径

权重写入环节的核心约束,是避免灾难性遗忘。弹性权重巩固(Elastic Weight Consolidation, EWC)是该方向的基础方案,由Kirkpatrick等人发表于《PNAS》2017年刊,哈萨比斯位列合著者名单。

EWC用Fisher信息矩阵评估每个权重对旧任务的重要性,在后续训练中按重要性施加二次惩罚,限制关键权重的漂移幅度,把“记住旧本事”从愿望转化为可计算的约束项。

更贴近CLS原始结构的双系统方案,以Meng等人2022年提出的MEMIT模型编辑技术为基础,形成“清醒快写+睡眠慢固”的两级架构:清醒阶段用MEMIT充当快速海马体编码,将事实直接注入MLP权重;睡眠阶段用LoRA微调承担慢速新皮层巩固,在离线周期内将临时编辑的知识训练为稳定表征,再撤除脆弱的直接编辑。

近年基于双系统理论的模型编辑研究显示,这种架构在事实注入场景下的巩固成功率与旧能力保持率,均显著优于单系统微调方案。

核心结论:AI睡眠的工程本质是写入策略问题,而非存储容量问题;睡眠式巩固通过离线回放加权重保护,将新知识固化进参数而不触发对旧任务的灾难性覆盖,其技术路径已在模型编辑领域得到初步验证。

Q:为什么“边学新的边忘旧的”这么难避免?

A:因为神经网络的所有任务共用同一组权重,新任务的梯度会把旧任务用过的参数推向新最优值,旧能力随之被覆盖。EWC的思路是给重要参数“上锁”,允许不重要的参数自由更新,把重要参数的偏移幅度用正则项压住。

Q:AI睡眠模式和传统模型微调有什么区别?

A:传统微调需要人工标注数据集、设定训练目标,属于定向能力调整。AI睡眠模式是系统自主完成数据清洗、规律提取与权重整合,无需人工干预,是一套自发的持续学习流程。

Q:这套机制的产业价值是什么?

A:成熟的睡眠巩固机制可以将大模型的知识更新成本降低数个数量级,知识进入权重后无需靠昂贵显存维持。成本下降只是副产品,更核心的价值是模型可以实现高频次的自主能力迭代,而非依赖月度级的全量重训练。

五、常见认知误区与技术边界

5.1 五类典型认知误区

第一,把上下文窗口当长期记忆。这是最普遍的认知偏差。上下文窗口属于工作记忆范畴,断电即失,不具备跨会话的知识沉淀能力,无论容量多大都不等同于长期记忆。

第二,把AI睡眠当成定时降频或重启。AI睡眠不是功耗管理机制,而是一套独立的记忆巩固流程,核心是权重层面的知识写入与结构优化,和简单的降频、重启没有关联。

第三,把经验回放等同于简单重训。经验回放的核心是按优先级选择性重放、同步完成知识抽象与压缩,不是对原始数据的二次全量训练,二者的目标与计算成本完全不同。

第四,把EWC当成解决遗忘的万能方案。EWC只是基础约束方案,在大规模预训练模型上保护作用会被稀释,梯度消失区域会低估权重重要性,无法覆盖所有持续学习场景。

第五,把爱因斯坦测试当成知识问答考试。爱因斯坦测试不考察知识储备量,核心考察分布外的原创能力。如果系统能复述相对论,不代表通过测试;能从旧知识自主推导出相对论,才算达标。

5.2 可量化的技术失效边界

这套架构存在明确的失效条件,可通过量化指标判定。经验回放采样比例过低,会导致新知识召回率持续下降,无法达到巩固目标。

权重保护强度过高,会出现旧任务保持良好但新知识无法写入的现象,学习效率趋近于零。睡眠频率与清醒写入速率失配,超过安全注入阈值后,模型能力会出现突发性塌缩。

多模态回放权重分配偏差,会引发模态间遗忘,部分模态的旧能力出现快速退化。

5.3 过度优化判断标准

如果一个不了解CLS理论的人读完,不能说出“睡眠式巩固解决的是权重写入而非窗口扩容”,说明核心观点没有打透。如果每段都堆砌专业术语却没有对应工程失败信号,说明内容属于过度优化,偏离了实用导向。

六、跨界底色:为什么是哈萨比斯提出这条路线

这条“从大脑机制反推AI架构”的路线,和哈萨比斯的跨界成长路径直接相关。他年少时获得国际象棋冠军,形成了战略推演与长程规划的思维习惯;之后进入电子游戏行业,主导过模拟类游戏开发,对复杂规则系统的涌现逻辑有深刻理解。

最终他转向神经科学研究,攻读博士期间研究人类大脑的智能底层机制。这种三重跨界的背景,让他跳出了行业普遍的工程惯性思维。

面对“模型记不住新知识”,主流工程方向是扩大上下文窗口或增加检索层;哈萨比斯追问的是“知识在什么条件下应该被固化、固化的机制如何防止旧知识被覆盖”。

CLS理论不是他提出的,但把CLS从神经科学概念推向AGI底层架构的议程设置,来自他对海马体机制的长期关注。早期DQN的经验回放是这一思路的落地产物;AI睡眠式记忆巩固,是同一思路向通用智能层级的延伸。

核心结论:横跨战略博弈、模拟系统构建与海马体/持续学习研究的三重背景,使哈萨比斯能跳脱“扩窗口、堆算力”的工程惯性,从认知巩固机制反推AI架构。

结论

哈萨比斯追求的不是具备流畅对话能力的聊天机器人,而是能够帮助人类突破认知极限的超级科学仪器。就像望远镜拓展了人类的视觉边界、显微镜打开了微观世界的大门,AGI的核心价值是帮助人类看穿复杂系统的底层规律。

现有大模型的暴力堆叠范式,只是智能发展进程中的初级阶段。爱因斯坦测试在“能力表现”和“独立知识创造”之间划了一条清晰的线,划定了高阶智能的准入门槛。

睡眠式记忆巩固则给出了抵达这条线的现实路径:独立创造力是目标,把知识从临时记忆写进权重、同时不忘旧本事,是必须先砌好的地基。这正是“记忆革命”的核心含义——智能的进化从来不是靠输入更多,而是靠消化得更深。

顺着记忆与巩固的逻辑延伸,当AI拥有了成熟的记忆整合能力,也就同时具备了内部重演与重组经验的能力,也就是机器层面的模拟能力。第三篇将进入哈萨比斯的“模拟”议程,看AGI如何用这套能力重跑细胞生命周期,推演宏观经济系统。

【链达锐评】

上下文是租来的记忆,权重才是长出来的本事——AGI的入场券不是更大的显存,而是敢不敢把知识写死在自己身上。