AI Agent 的"操作系统"——把虚拟内存管理的思想移植进 LLM，让 Agent 跨越 context window 的物理限制，拥有真正可持续的长期记忆。前身 MemGPT，来自 UC Berkeley Sky Lab。
TL;DR · 30 秒读完
Letta（前身 MemGPT）把操作系统的虚拟内存管理思想搬进 LLM，让 Agent 突破 context window 限制、拥有可持续的长期记忆，2026 年正把重心押注在编程场景的 Letta Code 上。
反共识洞察：最大风险不在技术而在叙事——当 context window 不断扩大（如 200k token），会有人质疑记忆层是否还有必要，但 session 内的信息容量和跨 session 的状态持久化根本不在同一层次，这个区别对非技术用户并不直观。
2023 年 10 月，UC Berkeley Sky Lab 的两位博士生 Charles Packer 和 Sarah Wooders 发表了一篇论文（arXiv:2310.08560），提出了一个看似简单却影响深远的类比：LLM 就像一台只有 RAM 没有硬盘的计算机。Context window 是物理限制，每次对话结束，一切清零。
这个类比的工程推论是：如果我们把操作系统的虚拟内存管理思想引入 LLM，让模型自己决定哪些信息"换入"当前上下文、哪些"换出"到外部存储，Agent 就有了真正意义上的长期记忆。他们把这个系统叫做 MemGPT。
项目在 GitHub 上线后，两周内获得 10,000 Stars，成为当时传播最快的 AI 研究项目之一。2024 年，他们正式注册公司，更名为 Letta（来自意大利语"lettera"，信件/记录），并获得 Felicis Ventures 领投的 $10M 种子轮，Jeff Dean 个人作为天使参与。
Sky Lab 是 Ion Stoica 教授主持的实验室——这个实验室的系谱可以追溯到 Apache Spark、Ray 和 Databricks，擅长的正是"把学术系统思想工程化成工业级产品"。Letta 的基因完全在这个传统里。
2026 年 Q1，Letta 宣布重心转向 Letta Code——一个专为 AI 编程助手设计的 git-backed 记忆文件系统。这不是方向迷失，而是精准聚焦：编程是 Agent 失忆最痛的场景，也是付费意愿最强的场景。
| 计算机概念 | MemGPT 类比 | 实现 |
|---|---|---|
| CPU Register / L1 Cache | Main Context（主上下文） | 当前对话窗口 |
| RAM | Core Memory（压缩摘要） | in-context 自动更新 |
| Hard Disk | Archival Memory（归档记忆） | 向量数据库，无限存储 |
| Memory Controller | LLM 自身决策 | 工具调用换入/换出 |
Letta 的理论基石。Charles Packer 为第一作者，Sarah Wooders 共同作者。核心贡献是将操作系统的层级存储管理引入 LLM——提出主内存、外部存储、以及由 LLM 自身驱动的"内存控制器"三层架构。
core_memory_append · core_memory_replace · archival_memory_search · archival_memory_insert
LLM 通过调用这些工具函数主动管理自己的记忆，而非被动接受截断。
每个 Agent 拥有独立的三层状态：System Prompt（持久化 persona）、Core Memory（in-context 压缩摘要，自动更新）、Archival Memory（无限向量存储）。原生支持 Agent-to-Agent messaging，多 Agent 系统可以共享记忆层。兼容 OpenAI / Anthropic / 本地 Ollama 模型。
REST API + Python SDK + TypeScript SDK，不绑定特定 LLM 后端。88% Fortune 100 通过 Letta 构建有记忆的企业 AI Agent。
托管式 Agent 状态平台——跨会话持久化（Agent persistence across sessions）是核心卖点。用户不需要自己维护向量数据库、设计记忆压缩逻辑；Letta Cloud 提供托管的 Agent 状态存储和检索。商业化路径：开发者 → SaaS，企业 → 私有部署。
E2B 解决执行隔离（沙箱），Letta 解决状态持久化（记忆）。两者是互补的 Agent 基础设施层，可以叠加使用。
从通用 Agent 框架聚焦到 AI 编程助手记忆层。核心创新是 git-backed Memory File System（MemFS）：Agent 的工作记忆以 git 仓库形式存储，每次会话生成一个 commit，天然版本追踪，任何 AI coding agent 都可以接入，不绑定特定 IDE。
Cursor / Windsurf 解决当前会话的编程体验，Letta Code 解决跨会话的知识积累。一个持续工作的 coding agent 需要记住"上周这个模块为什么这么设计"——这就是 Letta Code 的价值。
Ion Stoica 教授是 Apache Spark（大数据计算引擎）和 Ray（分布式 AI 计算）的联合创始人，Databricks 和 Anyscale 的联合创始人。Sky Lab 专门研究 AI 基础设施，Letta 是其最知名的衍生项目之一。这个谱系的特点是：理论先行，系统工程落地，商业化能力强。
Berkeley RISE Lab → Sky Lab → Letta（记忆层）/ vLLM（推理加速）/ SGLang 等。这个实验室持续产出 AI 基础设施领域最重要的开源系统。
"A language model without persistent memory is like a computer with only RAM and no hard drive — it forgets everything the moment you turn it off."
MemGPT 的 OS 类比是一个真正的概念突破——不是比喻，而是工程蓝图。把操作系统的虚拟内存管理逻辑引入 LLM 这件事，不只是好看的叙事：它给出了明确的模块分工（主上下文 / 核心记忆 / 归档记忆）和明确的接口设计（工具调用换入/换出）。LLM 终于有了"硬盘"，Agent 不再每次启动都失忆；这解决了所有长期任务 Agent 的根本障碍，而且解法在架构层面是清晰的。
Jeff Dean 个人天使 + Felicis Ventures 机构投资的组合，是比一般 VC 信号更强的背书。Jeff Dean 参与过 Google 的 GFS、MapReduce、TensorFlow——他对底层系统架构的判断力是经过验证的。他选择个人出资意味着这不是公关姿态，而是真实的技术信念。在 AI 基础设施方向，这类投资者认可比估值数字更有参考价值。
从通用 Agent 框架 Pivot 到 Letta Code 是正确的聚焦。MemGPT 原始框架过于通用，"给所有 Agent 加记忆"的价值主张太宽，竞争者多，销售周期长。Letta Code 的 git-backed MemFS 锁定了编程场景——这个场景的特点是：用户对 AI 失忆极度敏感（每次都要重新解释代码库），付费意愿强（编程工具是开发者最愿意付费的 SaaS 品类）。这个 Pivot 的逻辑是清晰的。
最大风险是叙事问题，不是技术问题。Context window 的持续扩大（OpenAI o3 已达 200k token）会让部分用户质疑"MemGPT 还有必要吗？"。答案是有必要，因为状态持久化跨越 sessions，context window 只解决单次推理内的信息容量——两者根本不在同一个层次。但这个区别对非技术用户并不直观，Letta 需要持续解释这个边界，否则叙事空间会被"context 越来越大"的声量压缩。
Letta 是 Agent 基础设施三层结构中的中间层——执行层（E2B 沙箱）、记忆层（Letta）、感知层（Kyutai 实时音频）。这三层是互补的，不是竞争的。Letta Code 的 Pivot 表明他们找到了最容易变现的入口：编程场景下用户对 AI 失忆最痛，付费意愿最强，而且 git 这个数据结构天然解决了记忆的版本化问题。Sky Lab 出身的团队在系统设计上的品味，加上 Jeff Dean 的认可，使这个项目在 Agent 基础设施赛道中处于独特位置。
MemGPT 的发布是 AI Agent 研究中少数几个"概念名称立刻变成工程范式"的时刻。就像 Transformer 之于注意力机制，"LLM as OS"这个框架为整个 Agent 记忆领域提供了统一的语言。Letta 是否会成为这个领域的基础设施标准，取决于 Letta Code 能否在编程场景打出差异化——而 git-backed MemFS 这个技术选择，显示了创始团队对系统设计的持续品味。