原文作者：Malika Aubakirova、Matt Bornstein，a16z crypto

在克里斯托弗·诺兰的《记忆碎片》（Memento）里，主角 Leonard Shelby 活在一个破碎的当下。脑损伤让他患上了顺行性遗忘症，无法形成新记忆。每隔几分钟，他的世界就重置一次，被困在永恒的「此刻」，不记得刚才发生了什么，也不知道接下来会怎样。为了活下去，他在身上纹字、拍拍立得，靠这些外部道具来替代大脑无法完成的记忆功能。

大语言模型也活在类似的永恒当下。训练结束后，海量知识被冻结在参数里，模型无法形成新记忆，无法根据新经验更新自己的参数。为了弥补这个缺陷，我们给它搭了一堆脚手架：聊天历史充当短期便签，检索系统当外部笔记本，系统提示词就像身上的纹身。但模型本身，从来没有真正内化过这些新信息。

越来越多的研究者认为，这样不够。上下文学习（ICL）能解决的问题，前提是答案（或答案的碎片）已经存在于世界的某个角落。但对于那些需要真正发现的问题（比如全新的数学证明），对抗性场景（比如安全攻防），或者那些太隐性、无法用语言表达的知识，有充分的理由认为：模型需要一种方式，在部署之后把新知识和经验直接写入参数。

上下文学习是临时的。真正的学习需要压缩。在我们允许模型持续压缩之前，可能都困在《记忆碎片》的永恒当下里。反过来说，如果我们能训练模型学会自己的记忆架构，而不是依赖外挂的定制工具，可能会解锁一个全新的 scaling 维度。

这个研究领域叫持续学习（continual learning）。这个概念并不新（参见 McCloskey 和 Cohen 1989 年的论文），但我们认为它是当前 AI 领域最重要的研究方向之一。过去两三年模型能力的爆发式增长，让模型「已知」和「能知」之间的鸿沟越来越明显。这篇文章的目的是分享我们从该领域顶级研究者那里学到的东西，帮助厘清持续学习的不同路径，并推动这个话题在创业生态中的发展。

注：这篇文章的成型得益于与一群优秀的研究者、博士生和创业者的深度交流，他们慷慨地与我们分享了自己在持续学习领域的工作和见解。从理论基础到部署后学习的工程现实，他们的洞见让这篇文章比我们独自撰写的要扎实得多。感谢你们贡献的时间和想法！

先聊上下文

在为参数级学习（即更新模型权重的学习）辩护之前，有必要承认一个事实：上下文学习确实管用。而且有一种很有力的论证认为它会继续赢下去。

Transformer 的本质是基于序列的条件化下一个 token 预测器。给它正确的序列，你就能得到令人惊讶的丰富行为，根本不需要碰权重。这就是为什么上下文管理、提示工程、指令微调和少样本示例这些方法如此强大。智能封装在静态参数里，而表现出来的能力随着你喂进窗口的内容剧烈变化。

Cursor 最近关于自主编程智能体 scaling 的深度文章就是一个好例子：模型权重是固定的，真正让系统跑起来的是对上下文的精心编排——放什么进去、什么时候做摘要、如何在数小时的自主运行中维持连贯状态。

OpenClaw 是另一个好例子。它爆火不是因为有特殊的模型权限（底层模型所有人都能用），而是因为它把上下文和工具极其高效地转化成了工作状态：追踪你在做什么、结构化中间产物、决定什么时候重新注入提示词、维持对之前工作的持久记忆。OpenClaw 把智能体的「外壳设计」提升到了一个独立学科的高度。

当提示工程最初出现时，很多研究者对「只靠提示词」能成为正经接口这件事持怀疑态度。它看起来像个 hack。但它是 Transformer 架构的原生产物，不需要重新训练，而且随着模型进步自动升级。模型变强，提示就变强。「简陋但原生」的接口往往能赢，因为它直接耦合到底层系统，而不是和它对着干。到目前为止，LLM 的发展轨迹正是如此。

状态空间模型：上下文的类固醇版

当主流工作流从原始 LLM 调用转向智能体循环时，上下文学习模型面临的压力越来越大。过去，上下文窗口被完全填满的情况相对少见。这通常发生在 LLM 被要求完成一长串离散任务时，应用层可以用比较直接的方式裁剪和压缩聊天历史。

但对智能体来说，一个任务就可能吃掉总可用上下文的很大一部分。智能体循环的每一步都依赖于前序迭代传递的上下文。而且它们经常在 20 到 100 步之后失败，因为「断了线」：上下文被填满，连贯性退化，无法收敛。

因此，主要 AI 实验室现在投入了大量资源（即大规模训练运行）来开发超长上下文窗口的模型。这是一条自然的路径，因为它建立在已经有效的方法（上下文学习）之上，并且与行业向推理时计算转移的大趋势契合。最常见的架构是在普通注意力头之间穿插固定记忆层，即状态空间模型（SSM）和线性注意力变体（下文统称为 SSM）。SSM 在长上下文场景下提供了根本性更好的 scaling 曲线。

图注：SSM 与传统注意力机制的 scaling 对比

目标是帮助智能体将连贯运行的步数提升几个数量级，从大约 20 步到大约 20,000 步，同时不丢失传统 Transformer 所提供的广泛技能和知识。如果成功，这对长时间运行的智能体来说是重大突破。

你甚至可以把这种方法看作一种持续学习的形式：虽然没有更新模型权重，但引入了一个几乎不需要重置的外部记忆层。

所以，这些非参数化方法是真实的、强大的。任何对持续学习的评估都必须从这里开始。问题不在于今天的上下文系统有没有用，它确实有用。问题是：我们是否已经看到了天花板，新的方法能否带我们走得更远。

上下文遗漏了什么：「档案柜谬误」

「AGI 和预训练发生的事情是，在某种意义上它们超调了……人类不是 AGI。是的，人类确实有一个技能基础，但人类缺少大量知识。我们依赖的是持续学习。

如果我造出一个超级聪明的 15 岁少年，他什么都不知道。一个好学生，非常渴望学习。你可以说，去当程序员，去当医生。部署本身就会涉及某种学习、试错的过程。这是一个过程，不是把成品直接扔出去。——Ilya Sutskever」

想象一个存储空间无限的系统。世界上最大的档案柜，每个事实都被完美索引，即时可检索。它能查到任何东西。它学到了吗？

没有。它从来没有被迫做压缩。

这是我们论证的核心，它引用了 Ilya Sutskever 之前提出的一个观点：LLM 本质上是压缩算法。在训练过程中，它们把互联网压缩成参数。压缩是有损的，而正是这种有损性让它变得强大。压缩迫使模型寻找结构、进行泛化、构建能跨上下文迁移的表征。一个死记硬背所有训练样本的模型，不如一个提取出底层规律的模型。有损压缩本身就是学习。

讽刺的是，让 LLM 在训练期间如此强大的机制（把原始数据压缩成紧凑、可迁移的表征），恰恰是我们在部署后拒绝让它们继续做的事。我们在发布那一刻停止了压缩，用外部记忆来替代。

当然，大多数智能体外壳都会以某种定制方式压缩上下文。但苦涩教训（bitter lesson）难道不是告诉我们，模型本身应该学会这种压缩，直接地、大规模地？

Yu Sun 分享了一个例子来说明这场辩论：数学。看看费马大定理。350 多年来，没有数学家能证明它，不是因为他们缺少正确的文献资料，而是因为解法高度新颖。已有数学知识和最终答案之间的概念距离太大了。

Andrew Wiles 在 1990 年代终于攻克它时，他花了七年近乎与世隔绝地工作，不得不发明全新的技术来抵达答案。他的证明依赖于成功桥接两个不同的数学分支：椭圆曲线和模形式。虽然 Ken Ribet 此前已经证明如果能建立这个连接就能自动解决费马大定理，但在 Wiles 之前，没有人拥有能实际构建这座桥的理论工具。Grigori Perelman 对庞加莱猜想的证明也可以做类似的论证。

核心问题是：这些例子是否证明 LLM 缺少了某种东西，某种更新先验、进行真正创造性思考的能力？还是这个故事恰好证明了相反的结论——所有人类知识只是可供训练和重组的数据，Wiles 和 Perelman 不过展示了 LLM 在更大规模上也能做到的事？

这个问题是经验性的，答案尚不确定。但我们确实知道，有很多类别的问题上下文学习今天会失败，而参数级学习可能有用。例如：

图注：上下文学习失败、参数学习可能胜出的问题类别

更重要的是，上下文学习只能处理能用语言表达的东西，而权重可以编码提示词无法用文字传达的概念。有些模式维度太高、太隐性、太深层结构化，放不进上下文。比如，医学扫描中区分良性伪影和肿瘤的视觉纹理，或者定义一个说话人独特节奏的音频微波动，这些模式不容易被分解成精确的词汇。

语言只能近似它们。再长的提示词也传递不了这些东西；这类知识只能存活在权重里。它们活在学习表征的潜空间中，不是文字。无论上下文窗口增长到多大，总有一些知识是文本无法描述的，只能被参数承载。

这也许能解释为什么显式的「机器人记住你」功能（比如 ChatGPT 的 memory）经常让用户感到不适而非惊喜。用户真正想要的不是「回忆」，而是「能力」。一个已经内化了你行为模式的模型可以泛化到新场景；一个只是回忆你历史记录的模型做不到。「这是你上次回复这封邮件时写的内容」（逐字复述）和「我已经足够理解你的思维方式，能预判你需要什么」之间的差距，就是检索和学习的差距。

持续学习入门

持续学习有多种路径。分界线不在于「有没有记忆功能」，而在于：压缩发生在哪里？这些路径沿一个光谱分布，从无压缩（纯检索，权重冻结），到完全内部压缩（权重级学习，模型变得更聪明），中间还有一个重要地带（模块）。

图注：持续学习的三种路径——上下文、模块、权重

上下文

在上下文这端，团队构建更智能的检索管线、智能体外壳和提示词编排。这是最成熟的类别：基础设施经过验证，部署路径清晰。限制在于深度：上下文长度。

一个值得注意的新方向：多智能体架构作为上下文本身的 scaling 策略。如果单个模型被限制在 128K token 窗口内，一组协调的智能体群——每个持有自己的上下文、专注于问题的一个切片、互相通信结果——可以在整体上近似无限工作记忆。每个智能体在自己的窗口内做上下文学习；系统做聚合。Karpathy 最近的 autoresearch 项目和 Cursor 构建网页浏览器的例子是早期案例。这是纯粹的非参数化方法（不改权重），但它极大地抬高了上下文系统能做到的上限。

模块

在模块空间里，团队构建可插拔的知识模块（压缩的 KV 缓存、适配器层、外部记忆存储），让通用模型在不重新训练的情况下实现专业化。一个 8B 模型加上合适的模块，可以在目标任务上匹配 109B 模型的表现，内存占用只是其零头。吸引力在于它能兼容现有的 Transformer 基础设施。

权重

在权重更新这端，研究者在追求真正的参数级学习：只更新相关参数片段的稀疏记忆层、从反馈中优化模型的强化学习循环、在推理时将上下文压缩进权重的测试时训练（test-time training）。这些是最深层的方法，也是最难部署的，但它们真正允许模型完全内化新信息或新技能。

参数更新的具体机制有多种。列举几个研究方向：

图注：权重级学习的研究方向概览

权重级研究涵盖了多条并行路线。正则化和权重空间方法历史最久：EWC（Kirkpatrick et al., 2017）根据参数对先前任务的重要性来惩罚参数变化；权重插值（Kozal et al., 2024）在参数空间中混合新旧权重配置，但两者在大规模上都比较脆弱。

测试时训练由 Sun et al.（2020）开创，后来发展为架构原语（TTT 层、TTT-E2E、TTT-Discover），思路截然不同：在测试数据上做梯度下降，在需要的那一刻把新信息压缩进参数。

元学习问的是：我们能否训练出懂得「如何学习」的模型？从 MAML 的少样本友好参数初始化（Finn et al., 2017）到 Behrouz et al. 的嵌套学习（Nested Learning, 2025），后者将模型结构化为一个分层优化问题，不同时间尺度上运行快速适配和慢速更新的模块，灵感来自生物记忆巩固。

蒸馏通过让学生模型匹配冻结的教师检查点来保留先前任务的知识。LoRD（Liu et al., 2025）通过同时裁剪模型和回放缓冲区，让蒸馏高效到可以持续运行。自蒸馏（SDFT, Shenfeld et al., 2026）翻转了来源，用模型自己在专家条件下的输出作为训练信号，绕过了序列微调的灾难性遗忘。

递归自我改进运作在类似的思路上：STaR（Zelikman et al., 2022）从自生成的推理链中引导推理能力；AlphaEvolve（DeepMind, 2025）发现了几十年未被改进的算法优化；Silver 和 Sutton 的「经验时代」（2025）把智能体学习定义为一个永不停止的持续经验流。

这些研究方向正在汇聚。TTT-Discover 已经融合了测试时训练和 RL 驱动的探索。HOPE 把快慢学习循环嵌套在单一架构内。SDFT 把蒸馏变成了自我改进的基本操作。列与列之间的边界正在模糊。下一代持续学习系统很可能会组合多种策略：用正则化来稳定，用元学习来加速，用自我改进来复利。一批越来越多的创业公司正在押注这个技术栈的不同层级。

持续学习创业版图

光谱的非参数端最为人熟知。外壳公司（Letta、mem0、Subconscious）构建编排层和脚手架，管理放进上下文窗口的内容。外部存储和 RAG 基础设施（如 Pinecone、xmemory）提供检索骨干。数据存在，挑战是在正确的时间把正确的切片放到模型面前。随着上下文窗口扩展，这些公司的设计空间也随之增长，特别是在外壳端，一波新的创业公司正在涌现来管理日益复杂的上下文策略。

参数端更早期、也更多元。这里的公司在尝试某种版本的「部署后压缩」，让模型在权重中内化新信息。路径大致可以分成几种不同的赌注，关于模型在发布后应该「怎样」学习。

部分压缩：不重训也能学。一些团队在构建可插拔的知识模块（压缩的 KV 缓存、适配器层、外部记忆存储），让通用模型在不动核心权重的情况下实现专业化。共同的论点是：你可以获得有意义的压缩（不只是检索），同时把稳定性-可塑性的权衡控制在可管理范围内，因为学习是隔离的，而不是分散在整个参数空间。8B 模型配上合适的模块，可以在目标任务上匹配远大模型的表现。优势是可组合性：模块可以和现有 Transformer 架构即插即用，可以独立交换或更新，实验成本远低于重训。

RL 和反馈循环：从信号中学习。另一些团队押注的是，部署后学习最丰富的信号已经存在于部署循环本身——用户纠正、任务成败、来自真实世界结果的奖励信号。核心理念是模型应该把每次交互都当作潜在的训练信号，而不只是推理请求。这和人类在工作中进步的方式高度类似：干活、拿到反馈、内化哪些方法有效。工程挑战在于把稀疏、嘈杂、有时带有对抗性的反馈转化为稳定的权重更新，同时不灾难性遗忘。但一个真正能从部署中学习的模型，会以上下文系统做不到的方式产生复利价值。

以数据为中心：从正确的信号中学习。一个相关但有区别的赌注是，瓶颈不在学习算法，而在训练数据和周边系统。这些团队专注于筛选、生成或合成正确的数据来驱动持续更新：前提是一个有高质量、结构良好的学习信号的模型，只需要少得多的梯度步就能有意义地改进。这和反馈循环公司自然衔接，但强调的是上游问题：模型能不能学是一回事，它应该从什么学、学到什么程度是另一回事。

新架构：从底层设计学习能力。最激进的赌注认为 Transformer 架构本身就是瓶颈，持续学习需要从根本上不同的计算原语：具备连续时间动态和内建记忆机制的架构。这里的论点是结构性的：如果你想要一个持续学习的系统，你应该把学习机制嵌入底层基础架构。

图注：持续学习创业公司版图

所有主要实验室也在这些类别中积极布局。有的在探索更好的上下文管理和思维链推理，有的在试验外部记忆模块或 sleep-time 计算管线，还有几家隐身公司在追求新架构。这个领域足够早期，没有哪种方法已经胜出，而且考虑到用例的广泛性，也不应该只有一种赢家。

为什么朴素的权重更新会失败

在生产环境中更新模型参数，会引发一连串目前在大规模上尚未解决的失败模式。

图注：朴素权重更新的失败模式

工程问题已有充分记录。灾难性遗忘意味着对新数据足够敏感以学习的模型，会摧毁已有的表征——稳定性-可塑性困境。时间解耦是指不变规则和可变状态被压缩进了同一组权重，更新一个就会损坏另一个。逻辑整合的失败是因为事实更新不会传播到其推论：更改局限在 token 序列层面，不是语义概念层面。遗忘（unlearning）仍然不可能：不存在一个可微分的减法操作，因此虚假或有毒知识没有精确的手术切除方案。

还有第二类问题被较少关注。当前训练和部署的分离不只是工程上的便利，它是安全性、可审计性和治理的边界。打开这个边界，多件事会同时出问题。安全对齐可能不可预测地退化：即便是在良性数据上的窄范围微调也可能产生广泛的失调行为。

持续更新创造了一个数据投毒的攻击面——一种缓慢、持久的提示注入版本，但它活在权重里。可审计性崩塌，因为一个持续更新的模型是一个移动靶，无法做版本控制、回归测试或一次性认证。当用户交互被压缩进参数时，隐私风险加剧，敏感信息被烘焙进表征，比检索上下文中的信息更难过滤。

这些是开放问题，不是根本性的不可能。解决它们和解决核心架构挑战一样，是持续学习研究议程的一部分。

从「记忆碎片」到真正的记忆

Leonard 在《记忆碎片》中的悲剧不在于他无法运转——在任何一个场景中他都足智多谋，甚至堪称出色。他的悲剧在于他永远无法复利。每一次经历都停留在外部——一张拍立得、一个纹身、一张别人笔迹的便条。他能检索，但他无法压缩新知识。

当 Leonard 在这个自我建构的迷宫中穿行时，真实和信念之间的界限开始模糊。他的病症不只是剥夺了他的记忆；它迫使他不断重建意义，让他同时成为自己故事中的侦探和不可靠叙述者。

今天的 AI 运行在同样的约束下。我们构建了非常强大的检索系统：更长的上下文窗口、更智能的外壳、协调的多智能体群，而且它们管用。但检索不等于学习。一个能查到任何事实的系统没有被迫去寻找结构。它没有被迫去泛化。让训练如此强大的有损压缩——把原始数据转化为可迁移表征的机制——恰恰是我们在部署那一刻就关掉的东西。

前进的路径很可能不是一个单一突破，而是一个分层系统。上下文学习仍将是第一道适应防线：它是原生的、经过验证的、在不断改进的。模块机制可以处理个性化和领域专业化的中间地带。

但对于那些真正困难的问题——发现、对抗适应、无法用文字表达的隐性知识——我们可能需要让模型在训练之后继续把经验压缩进参数。这意味着稀疏架构、元学习目标和自我改进循环的进步。它可能还需要我们重新定义「模型」的含义：不是一组固定的权重，而是一个进化中的系统，包含它的记忆、它的更新算法，以及它从自身经验中抽象的能力。

档案柜越来越大。但再大的档案柜还是档案柜。突破在于让模型在部署后做训练时让它强大的那件事：压缩、抽象、学习。我们站在从失忆模型到拥有一丝经验之光的模型的转折点上。否则，我们会困在自己的《记忆碎片》里。