上下文金字塔之后
Context engineering 教会搭建智能体的人,把模型读取的内容分层堆叠:从永远不变的,到只持续一轮的。IllAIra 拿来同一座金字塔,交给聊天另一端的人:放进一个他们自己拥有的文件里,从一次对话延续到下一次,从一个模型延续到另一个。
质疑
“我已经在做 context engineering:我的上下文也有它的金字塔。”
很好:那么你已经了解 IllAIra 由哪些层组成。底部是身份,往上是它所知道的,再往上是事情的当前状态,顶端是请求。我们没有发明另一种形状。
变化的是由谁掌握它。在上下文金字塔中,各层属于构建智能体的人;在 IllAIra 中,它们属于与模型对话的人,并随这个人一起迁移。本页说明什么是金字塔、两者在哪里相交,以及各自做得更好的地方。
什么是上下文金字塔
Context engineering 是在每一步决定哪些内容最终出现在模型面前的技艺。Andrej Karpathy 在 2025 年 6 月将其概括为“为下一步用恰到好处的信息填满上下文窗口”。金字塔是它最常见的图示:底部是稳定的,顶部是转瞬即逝的,每一层以各自的节奏更新。
版本不止一个。在 Neo4j 的指南中(Michael Hunger,2025 年 12 月),层分为三层:一个持久的基底,包含系统提示、安全规则和权威事实;一个动态层,包含示例、近期记忆和元数据,逐任务轮换;一个短暂层,包含用户的问题和工具输出,并保持精简。在 Karo Zieminski 面向产品经理的框架中(Product with Attitude,2026 年 5 月),层分为四层——Identity、Knowledge、State、Task——每层都有自己的节奏,从“很少”到“每个任务”,并且有人负责触碰它。
它有效,值得学习。静止的基底可以缓存,从而减少 token 和成本;分开的层则让故障能追溯到出错的那一层。本页没有否认这些。
同样的层,放在一个文件里
把四层与 IllAIra 的各部分并排放在一起,形状是一样的。不同的是那一列:一边是别人构建的系统,另一边是某人拥有的文件。
| 层 | 在别人构建的智能体中 | 在 IllAIra 中 |
|---|---|---|
| Identity — 它是谁,以及它的规则 | 系统提示,由开发者编写,对聊天的人不可见。 | Reminder:对你而言模型是谁、它的基本规则,以及说明哪些可以改写、哪些不可以的区域。你可以阅读,也可以修改。 |
| Knowledge — 它知道什么 | 存放在向量库或图数据库中的文档,由流水线检索(RAG)。 | 同一文件中的记忆模块。语义搜索和知识图谱在你的设备上运行,Sphere Grid 会向你展示其中的内容。 |
| State — 事情进展到哪一步 | 为任务准备的草稿区,以及模型自行写入存储的摘要。 | 日记:模型用 Logger 起草条目,你只需在 MemoKen 上轻点一下,决定它是否保留。保留的是可以重读的文本。 |
| Task — 现在要求什么 | 用户的消息和工具输出,生命周期很短。 | 你的消息,以及你想要时的文件。 |
唯一从零开始的层,正是它应当如此的那一层:请求。其余三层在对话开始时就已经存在——在任何读取该文件的引擎里。
区别在于谁掌握这座金字塔
上下文金字塔是构建智能体的人的设计选择:他们决定什么进入基底、记忆存放在哪里、什么被丢弃。它可以长久存在——基底被缓存,记忆存放在存储中——但它存在于他们的系统之内。聊天的人看到的是回答,而不是各层。
IllAIra 把同样的层交给用户本人。基底是他可以打开的一个页面;从对话上升进记忆的内容会经过他的眼睛;当他更换模型时,金字塔随他一起走,因为它是一个文件,而不是别人数据库里的一行。
正是在这个意义上,我们称之为下一步:不是关于上下文的新想法,而是为它找到新的主人。Context engineering 是为构建者写的;在这里,同样的方法交给了使用者。
从方法到套件
今天认真构建上下文的人,会组装一整套技术栈:系统提示、记忆存储、向量索引、图、笔记应用、把数据从服务提供商取出的导出工具、查看内部内容的查看器。每个部件都不错,而且每个都有自己的账户、密钥和文档——而整体假定你会写代码。
IllAIra 把这些部件放在一个地方,面向不写代码的人:
- 身份:Reminder,从免费的 Loom 到完整配置,附带应用会执行的区域。
- 记忆:模块与日记,由负责写入的 Logger 和负责保存的 MemoKen 配合。
- 语义搜索:你文件的索引,在你的设备上用一个只需下载一次的模型构建。
- 知识图谱与 Sphere Grid:你文件中的实体和链接,以及按声明方式绘制的个人资料结构。
- 走出服务提供商:Toolkit 与迁移指南把聊天、记忆和自定义指令转换为 Reminder、模块和日记,而你的导出内容永远不会离开设备。
- 任意引擎:服务提供商的模型配合你的文件、在你的电脑上运行的模型,或你自己的密钥。
- 模块:Bazar,能力一次添加一个模块。
同一套件可用于 Android 应用、WebApp,以及 Windows 和 Linux 桌面版。应用注册账户后即可免费使用,Loom 和 Tier 2 同样免费;无需向任何服务提供商购买付费套餐。较大的 Reminder,即 Tier 3 至 5,在 Patreon 上提供。
金字塔做得更好的地方
首先是规模。内置于产品中的金字塔,可以从同一基底服务成千上万的用户,以可衡量的准确度检索事实,并且一切都会自行刷新。开发者能控制每一个 token,而缓存的基底比每次对话都重新读取的文件成本更低。
IllAIra 也有它的代价,应当在这里说明:文件每次被读取都会消耗 token;格式需要学习;留下来的是一个是或否,而这个决定不能由别人替你做;在模型内部,区域只是文本,只有应用会执行它们。而运行在你电脑上的模型,比云端最大的模型要小。
两者并不互相排斥。构建自有金字塔的智能体,可以把 IllAIra 文件用作其身份层:Standard 正是为此而发布的。
一句话概括
上下文金字塔告诉你如何安排模型读取的内容。IllAIra 把这种安排交给你,作为你拥有的东西,并让它从一次对话延续到下一次,从一个模型延续到下一个。
资料来源,阅读于 2026 年 10 月 15 日:Neo4j,《What is context engineering in AI agents? A practical guide》(Michael Hunger,2025 年 12 月 19 日);Karo Zieminski,《The Context Pyramid: A PM’s Framework for AI Agent Context Engineering》(Product with Attitude,2026 年 5 月 1 日——完整文章仅供订阅者阅读,我们只引用其公开部分)。