全部產品
Search
文件中心

Tablestore:記憶儲存服務

更新時間:Oct 22, 2026

記憶儲存服務(Memory Storage)基於Table Store Tablestore 構建,為 AI Agent 提供 Serverless 的記憶寫入、自動提取與語義檢索能力,支援百萬租戶級資料隔離與跨會話記憶複用。

什麼是記憶儲存服務

記憶儲存服務(Memory Storage)基於Table Store Tablestore 構建,為 AI Agent 提供 Serverless 的記憶寫入、自動提取與語義檢索能力。開發人員將對話訊息或文本寫入記憶庫,服務儲存原始訊息為短期記憶,並自動提取可檢索的長期記憶單元持久化到Table Store;檢索時結合語義檢索與文本檢索(支援 Rerank 排序)返回相關長期記憶,供 Agent 在後續對話中按需召回。

相比自行實現記憶抽取與檢索,開發人員無需自建 LLM 調用、向量/全文檢索索引、資料隔離與審計等能力即可使用。服務支援百萬租戶級資料隔離與跨會話記憶複用。

如需瞭解記憶儲存服務的計費請參見產品計費;如需快速體驗記憶儲存服務,請參見寫入並召回第一條記憶。

說明

記憶儲存服務當前支援地區:華北2(北京)、華東2(上海)、華東1(杭州)、華南1(深圳)、中國香港、新加坡。可就近選擇地區接入。

功能優勢

  • Serverless與彈性

    全託管 Serverless 架構,使用者無需關心底層資源的部署和營運。隨用隨付,零用量零費用;基於分布式架構水平擴充,滿足百萬租戶、百億條記憶的情境需求。

  • 記憶自動提取,無需額外開發

    入對話或文本後自動提取關鍵事實和偏好,產生結構化的記憶單元。開發人員無需編寫額外的提取邏輯,也無需自行處理記憶的抽取和組織。可通過記憶庫層級的自訂抽取指令(extractInstructions)引導抽取聚焦業務關鍵資訊。

  • 精準語義檢索,節省 Token

    支援向量檢索與全文檢索索引的混合檢索模式,以自然語言作為查詢輸入召回相關記憶。相比傳入完整對話歷史約節省95% 的 Token,避免 O(N²) 增長以及“Lost in the Middle”效能退化。

  • 海量租戶隔離

    通過 appId、tenantId、agentId、runId 四級 Scope 實現資料隔離,開發人員可按應用、租戶、Agent 和交談群組織記憶資料邊界,滿足百萬租戶層級的多租戶隔離需求。

  • 檔案視圖讀取

    服務託管的結構化記憶支援兩種讀取方式:通過 SDK、CLI 等介面進行結構化讀取,或通過檔案視圖按目錄和檔案讀取。檔案視圖以唯讀檔案形式呈現記憶資料。應用仍通過結構化介面寫入或修改源記憶,避免檔案操作與結構化記憶產生衝突。

  • 檔案記憶

    已有 Markdown 等 UTF-8 文字檔或需要自行組織記憶目錄時,可以直接將檔案寫入檔案記憶庫。應用控制檔案路徑,並可建立、讀取、更新、重新命名和刪除檔案,以及查詢歷史版本。檔案記憶 Dream 還能跨 Scope 歸併、錯誤修正和重組文字檔,並把結果自動寫入指定的輸出 Scope。

  • 知識編譯與記憶整理

    Wiki 將來來源文件非同步構建為相互連結的 Markdown 頁面供跨會話複用。Agent 可以先搜尋 Wiki,再按路徑讀取命中頁面,在不同會話中複用同一 Agent 的持久知識;記憶整理(Dream)在後台非同步對已入庫內容做二次提煉,可進行歸併、去重、更新、提取技能畫像等。

典型應用情境

情境

說明

多輪對話連續性

長對話情境中,將歷史訊息寫入記憶庫,由服務保留原始訊息並提取關鍵事實。後續對話僅按需召回相關記憶,避免將完整歷史全量注入上下文。

跨會話偏好沿用

使用者在多個會話中表達的偏好、習慣和約束被提取為長期記憶單元,新會話中通過語義檢索召回,使 Agent 在不同時間、不同入口仍能保持一致的應答風格。

多 Agent 知識共用

通過四級 Scope 中 agentId 通配,多個 Agent 可在同一租戶範圍內共用同一份使用者記憶,避免在每個 Agent 中重複抽取和維護相同的事實。

Agent 資料圖譜化

把產品說明、操作手冊和專案約定作為 Wiki 來源持續維護,服務將資料構建為可搜尋、相互連結且帶來源引用的頁面。不同會話可以共用同一 Agent Scope 的 Wiki,同時唯讀取當前任務需要的少量頁面。

使用者畫像沉澱

將使用者行為、屬性和歷史事實持續寫入記憶庫,由服務自動歸併為結構化的畫像單元,供推薦、客服、營銷等下遊 Agent 直接召回使用。

說明
  • 記憶提取為非同步過程,且由系統自動完成,對寫入即時性要求極高或需要完全自訂提取策略的情境需評估。

  • 純結構化資料查詢建議使用Table Store寬表模型或關係型資料庫。

  • 僅需上下文視窗管理、不需持久化記憶的情境可直接使用 LLM 上下文視窗。

名詞解釋

記憶庫的資料按以下實體組織。

實體

說明

MemoryStore

記憶庫,管理記憶資料的頂層容器

Memory

長期記憶,從對話或文本中提取的可檢索資訊

Message

短期記憶,寫入的原始會話訊息記錄

Item

帶路徑和版本的記憶檔案

Wiki

按三段 Agent Scope 組織的知識圖譜頁面集合

Dream Task / Action

非同步整理任務及其結構化記憶或檔案變更記錄

MemoryStore

MemoryStore 是記憶庫,管理記憶資料的頂層容器。先建立記憶庫,再向記憶庫寫入訊息、檢索記憶或查詢審計記錄。可按應用、環境(開發、測試、生產)或業務線劃分記憶庫;名稱僅含字母、數字、底線,最長 32 字元。

Memory

Memory 是長期記憶。服務在寫入對話訊息或文本後,會提取可長期儲存和檢索的資訊,並產生記憶單元。每條通常包含記憶 ID、文本、Scope、中繼資料、建立時間及版本管理資訊。

Message

Message 是短期記憶,即寫入記憶庫的原始會話訊息記錄。可通過 ListMemoryStoreMessages 查詢;短期記憶的 Scope 規則見 Scope 目錄層級管理。

Item

帶路徑和版本的記憶檔案,在檔案記憶庫中按路徑組織文字檔(如 Markdown),支援增刪改查與歷史版本查詢。檔案記憶 Dream 的跨 Scope 歸併、錯誤修正和重組見 Agentic Task 的記憶整理。

Wiki

按三段 Agent Scope 組織的知識圖譜頁面集合,供同一 Agent 在不同會話中複用持久知識,詳情可參見知識編譯(Wiki)。

Dream Task / Action

對已入庫內容的非同步整理任務(Dream Task),產出結構化記憶或檔案變更記錄(Dream Action),詳情可參見記憶整理(Dream)。

Scope 目錄層級管理

Scope 用於表示記憶資料的歸屬和隔離邊界。記憶服務使用 appId 、 tenantId 、 agentId 、runId 四級 Scope。

欄位

說明

appId

應用標識,通常對應一個業務應用或產品

tenantId

租戶或使用者標識

agentId

Agent 標識

runId

會話、運行或任務標識

Scope 的層級為:

appId > tenantId > agentId > runId

核心規則:

  • 寫入時,appId 必填,其他欄位為空白時補為 __default__。寫入不允許使用萬用字元 *。

  • 檢索記憶時,appId 必填且不能為 *。其他欄位省略時表示 __default__,顯式傳入 * 才表示通配。

  • 查詢短期記憶時,四個欄位均為必填且不允許萬用字元。

常見檢索範圍樣本

檢索範圍

Scope 設定

適用情境

當前會話內

appId + tenantId + agentId + runId 全部指定

只希望使用當前會話歷史

跨會話

appId + tenantId + agentId + runId="*"

同一 Agent 在多次會話中複用使用者偏好

跨 Agent、跨會話

appId + tenantId + agentId="*" + runId="*"

多個 Agent 共用使用者記憶

Scope 與多記憶庫的選擇

MemoryStore 支援按應用、環境或業務線建立獨立記憶庫。當資料屬於同一應用中的不同使用者或 Agent 時,推薦使用 Scope 在同一記憶庫內隔離,管理成本更低,且支援萬用字元跨 Scope 聯合檢索。當不同業務域需要完全獨立的資料空間時,建議建立多個記憶庫。

記憶資料管理

記憶寫入

記憶服務支援以下兩種方式寫入記憶:

  • 對話訊息寫入 :通過 AddMemories 介面傳入 messages 數組。服務儲存原始訊息為短期記憶,並根據記憶庫的 outputTypes 產生結構化記憶、唯讀記憶檔案或兩種結果。

  • 文本寫入 :通過 AddMemories 介面傳入 text 欄位,直接提交純文字內容,並產生記憶庫配置的輸出。

寫入時需指定 Scope 資訊,其中 appId 必填,tenantId、agentId、runId 為空白時自動補為 __default__。寫入不允許使用萬用字元 *。

寫入預設非同步執行(sync=false):原始訊息先落庫並可立即作為短期記憶查詢,配置的輸出在後台產生。可通過 AddMemories 返回的 requestId,調用 GetMemoryTask 跟蹤任務狀態。包含 file 輸出的記憶庫只支援非同步寫入。記憶庫還支援自訂抽取指令(extractInstructions),在建立或更新記憶庫時設定,注入抽取提示詞以引導該庫的長期記憶抽取聚焦業務關鍵資訊。

記憶檢索

SearchMemories 支援使用自然語言檢索長期記憶。服務結合語義檢索和文本檢索能力,並支援 Rerank 排序,預設啟用 Rerank。

檢索時 appId 和 tenantId 為必要欄位,agentId 和 runId 可使用萬用字元 * 擴大檢索範圍。

檢索結果同時返回融合得分 score 與歸一化相似性 similarity。可通過 minSimilarity 過濾低相關結果。設定 includeEvidence=true,可在結果中附帶命中記憶對應的原始訊息片段(evidence),便於增強答題模型的可解釋性。

長期記憶支援附加中繼資料(metadata)。中繼資料可用於儲存業務自訂資訊,例如記憶來源、標籤和優先順序等。中繼資料隨記憶單元一起儲存,檢索結果中會返回對應的中繼資料欄位。

Agentic Task

記憶整理(Dream)

記憶整理(Dream)是對記憶庫中已有資料進行二次提煉的非同步能力。結構化記憶庫和可寫檔案記憶庫使用不同的輸入與寫入模型。

結構化記憶 Dream

服務在後台分析長期記憶與原始訊息,產出可應用的整理動作。整理對象分為三類:

  • 記憶整理( memory):對長期記憶去重、改寫、合并,並刪除過時項。

  • 技能提取( skill):從歷史互動中提取可複用技能

  • 畫像提取( profile):沉澱結構化使用者畫像

結構化記憶整理支援 proposal、safe_auto 和高強度 plan 模式。proposal 產生提案,由人工或程式確認後應用;safe_auto 在達到信賴度閾值時自動應用;plan 先等待計劃批准,再執行已授權的刪除範圍。

檔案記憶 Dream

對 inputType=file、outputTypes=["file"] 的記憶庫,Dream 從一個或多個輸入 Scope 凍結文字檔版本,並把整理後的完整結果自動寫入一個確定的輸出 Scope。檔案動作包括新增、更新、改名和刪除,所有更新與刪除均使用版本前置條件保護並發寫入。

檔案記憶 Dream 固定使用高強度自動模式,不產生等待人工 Apply 的提案。查詢任務和動作仍使用 GetMemoryDreamTask、ListMemoryDreamTasks 和 ListMemoryDreamActions。詳細流程參見記憶整理(Dream)。

知識編譯(Wiki)

Agent Wiki 把 /.wiki/raw/ 下的來源檔案非同步構建為相互連結的 Markdown 頁面。每個 Wiki 唯一歸屬於一個記憶庫和一個 appId / tenantId / agentId 三段 Scope;同一 Agent 的不同會話共用頁面。

應用通過 GetWiki 查詢或自動建立 Wiki,使用 IngestWiki 構建,通過 ListWikiPages、SearchWikiPages 和 GetWikiPage 消費發行頁面。新構建發布前,舊頁面集合保持可讀。詳細流程參見知識編譯(Wiki)。

企業級能力

請求審計

服務記錄記憶程式庫要求,可通過 ListMemoryStoreRequests 查詢請求日誌。審計記錄包含操作類型、響應狀態、延遲和失敗原因等欄位,適用於排查寫入、檢索和管理操作中的問題。

任務與可觀測性

記憶寫入與記憶整理均為非同步任務,服務提供配套的查詢能力:

  • GetMemoryTask 與 ListMemoryTasks:查詢記憶抽取任務的狀態與產出。

  • GetMemoryDreamTask、ListMemoryDreamTasks 與 ListMemoryDreamActions:查詢記憶整理任務與動作。

  • ListMemoryStoreScopes:使用四級 scope 或結構化 filter 列出已登記的 conversation Scope;返回穩定的 scopeKey,便於發現和分頁遍曆會話範圍。

  • ListMemoryStoreRequests:請求審計日誌查詢。

效能參考

從檢索準確率、檢索延時和儲存規模三個維度對錶格儲存記憶服務進行了評測,並與業界主流記憶方案 Mem0 進行了對比。

維度

Table Store記憶服務

行業對比

綜合檢索準確率

88.25%

較 Mem0(64.20%)提升約 37.4%

P50 檢索延時

\~155 ms

同類方案通常 200-500 ms,降低約 75%

已驗證儲存規模

億層級條記憶,可水平擴充無上限

同類方案多為百萬至千萬級

Token 節省

95%

較 Plan A(全量注入)節省約 95%

上述資料用於展示服務能力邊界,實際效果會受到資料規模、查詢方式、網路環境、模型配置和業務資料分布影響。以下是各維度評測詳情。

評測詳情

檢索準確率

評測基準:LoCoMo 資料集

LoCoMo 是當前記憶系統評測領域最具代表性的基準之一。與早期評測集只覆蓋 3-5 輪短對話不同,LoCoMo 平均每條測試資料包含 300 輪對話、跨 35 個會話,貼近真實使用者與 AI 助手長期互動的情境。

LoCoMo 原始定義了五類推理問答(單跳、多跳、時間推理、開放領域、對抗性問題),基於其中四類進行了評測。

評測維度

含義

日常對話中的典型情境

單跳推理

從單次會話中直接定位事實

"我上次說我喜歡喝什麼來著?"

多跳推理

綜合多個會話中的資訊得出答案

"根據我的飲食偏好和體檢報告,推薦一份午餐"

時間推理

理解時間軸索和先後順序

"我先說想換工作,後來又說留下了,現在的想法是?"

開放領域

結合使用者歷史資訊與外部常識推理

"我說過我對花生過敏,沙爹醬能吃嗎?"

評測結果:

記憶庫方案

單跳推理

多跳推理

時間推理

開放領域

綜合準確率

記憶儲存服務

88.94%

90.78%

88.16%

75.00%

88.25%

Mem0

68.97%

61.70%

58.26%

50.00%

64.20%

在四類推理上Table Store記憶服務的準確率均高於 Mem0:單跳推理(直接檢索單條事實)高出約 20 個百分點;多跳推理和時間推理情境差距更大,分別高出約 29 和 30 個百分點。當使用者的問題需要 AI 把多次對話串聯起來、理解時間先後做出判斷時,Table Store記憶服務的檢索品質明顯更高。

說明

口徑說明:Table Store記憶服務的評測資料來自 LoCoMo 全量 10 段對話、4 類推理題共 1540 題;答題採用 Mem0 官方最新的 LoCoMo 答題 Prompt,答題模型與裁判模型均為 qwen-max,並採用 Mem0 提供的寬鬆裁判。Mem0 的對比資料來自其公開評測結果。

檢索延時

測試條件為單記憶庫 120 萬租戶、1 億+ 條記憶資料的超大規模情境,且不開啟Rerank的情境。

opK

平均延時

P50 延時

P95 延時

5

164 ms

155 ms

269 ms

10

198 ms

174 ms

288 ms

50

234 ms

222 ms

384 ms

億級資料量下 P50 延時穩定在 200 ms 左右,即使返回 Top50 結果,P95 也在 384 ms 以內。換個直觀說法:即使一個百萬日活 App 的所有使用者記憶匯總到一個庫裡,每次對話中的記憶檢索依然能在 200 毫秒內完成,使用者幾乎感知不到等待。如果開啟Rerank,檢索延時會增長200-300毫秒。

儲存規模

單記憶庫已驗證支援 120 萬租戶、1 億+ 條記憶的儲存與檢索。基於Table Store的分布式架構,系統支援水平擴充,無理論上限。無需按租戶數量做分庫分表的容量規劃,業務增長時儲存層自動跟上。

Token 成本

Plan A(每輪注入完整對話歷史)vs Plan B(一次性抽取 + 每輪只注入檢索到的記憶)。對話 Token 通過模型服務返回的 usage 欄位精確統計;抽取 Token 使用生產環境的抽取 Prompt 複現計算,資料偏保守。

評測維度(基於 LoCoMo 4 段對話)

Plan A

Plan B

單次對話 Token:單題平均對話 token

24,985

823

記憶抽取 Token:一次性抽取 token(4 段)

---

320,667

全量對話含上下文 Token:按 4 段對話共 827 題外推的總消耗

20,662,543

1,001,153

純對話節省

---

96.7%

含抽取總節省

---

95.1%