上下文省 92%、准确率只掉 2.2 点:亚马逊给 Agent 补长期记忆的托管方案 GA 了
演示里的 AI 智能体大多有金鱼记忆:每次会话从零开始,用户把账号、偏好、进行中的问题重讲一遍。常见土办法是把整段对话历史塞回 prompt——能用,直到不能用:prompt 越来越长、延迟和 token 成本爬升,真正重要的那条事实埋在几千 token 的闲聊里。
11 月 18 日 AWS 官方博客发文、19 日落地:Amazon OpenSearch Memory 正式可用(GA),建在 OpenSearch Serverless 上的托管长期记忆能力。官方在公开基准 LongMemEval-S 上给的账非常直接:接了记忆的 Agent 每题只需约 1.35 万输入 token,全量塞对话历史要约 16.7 万——省约 92%,准确率只掉 2.2 个点。这篇拆它的核心模型、关键设计和值不值得用。
一、核心模型:五个概念讲完
| 概念 | 是什么 |
|---|---|
| Space | 记忆库本体:定义跑哪些记忆策略、数据保留多久、怎么加密 |
| Events | 原始交互,原样存储,写进去秒级可搜 |
| Memories | 后台从事件派生出的事实、偏好、摘要 |
| Memory Strategies | 每种策略定义一类要抽的记忆:SEMANTIC(事实)、SUMMARY(会话摘要)、CUSTOM(自己的 prompt);一个 space 最多同时跑 10 个策略 |
| Actor / Session | 每个请求必须指明数据归属的用户(actor),session 可选;检索永远限定在单个 actor 内 |
二、两个真正值得抄的设计
1. “先写入,后记忆”的异步路径。CreateEvent 存下事件就立即返回,抽取在后台跑——Agent 的响应时间不依赖抽取模型。这和上个月 DeepSeek Super-agent 里的 Inline & Spill 是同一哲学:把上下文 / 记忆当缓存系统管,而不是当 prompt 拼接管。区别是那个要自己搭,这个是托管的。
2. 记忆合并(consolidation)默认开启。用户先说“我住西雅图”,后来改口“我搬去奥斯汀”——存的是更新后的事实,而不是两条矛盾事实并排放着。这是自建记忆层最容易忽略、又最容易翻车的一步:新旧事实冲突不解决,检索出来的就是抽奖。
三、它替你接管了哪些管线
自建记忆层的完整链条:采集每一轮对话 → LLM 抽取事实 → embedding → 向量库 → 新旧事实合并 → 按租户隔离 → 保留期策略。每一步都是活。GA 的方案里:
- 抽取和 embedding 成本已含在服务定价里:服务代调抽取模型,你不用自己配模型权限;
- 安全默认项给齐了:actor 级隔离(设计上就查不到别人的数据)、IAM 条件键
osm:actorId限制角色能代哪个 actor 操作、静态加密(默认 AWS 托管 key / 自带 KMS)、TLS 1.2+、CloudTrail 审计、CloudWatch 指标; - 事件先可搜、记忆后到:原始事件立刻可读,抽取索引异步补齐——短暂窗口内搜到的是原始事件而非提炼记忆,异步系统的正常时序。
四、那 2.2 个点的代价,什么时候不可接受
92% 的节省很诱人,但要想清楚它换掉的是什么:检索式记忆假设“重要信息能被抽出来并检索回去”。抽对了,省 92%;抽漏了,那条关键事实就永久缺席——而全量历史的方案里它一定还在。
所以适用判断很简单:
- 适合:长周期、多会话、以事实/偏好为核心的场景(客服、个人助手、SaaS 产品里的用户画像)——这正是 LongMemEval-S 考的题型;
- 谨慎:任务强依赖超长上下文里某句原话的场景(法律文书逐字比对、长链推理),抽取损失不可逆,2.2 个点可能是最贵的 2.2 个点;
- 额外成本项:托管便利的背面是绑定——记忆数据模型、策略语义都在 OpenSearch 的抽象里,迁走的摩擦要提前估。
五、放到更大的图景里
连起来看这几周的信号:DeepSeek 把上下文当缓存管理(Inline & Spill)、谷歌论文在 Harness 上做自我优化(11-17)、AWS 把记忆层做成托管服务(11-18)——Agent 竞争的重心正在从“模型多聪明”转向“模型外面那层基础设施谁做得好”:上下文、记忆、调度、验证。模型是引擎,这些是底盘。对工程师来说,这才是未来一两年真正要积累的手艺。
资料来源:AWS 官方博客与 What's New 公告(2026-11-18/19)、Amazon OpenSearch Service 文档(memory concepts / best practices)、DEV Community 实测文章(2026-11)、LongMemEval 基准。