記憶儲存服務(Memory Storage)基於Table Store Tablestore 構建,為 AI Agent 提供 Serverless 的記憶寫入、自動提取與語義檢索能力,支援百萬租戶級資料隔離與跨會話記憶複用。
什麼是記憶儲存服務
記憶儲存服務(Memory Storage)基於Table Store Tablestore 構建,為 AI Agent 提供 Serverless 的記憶寫入、自動提取與語義檢索能力。開發人員將對話訊息或文本寫入記憶庫,服務儲存原始訊息為短期記憶,並自動提取可檢索的長期記憶單元持久化到Table Store;檢索時結合語義檢索與文本檢索(支援 Rerank 排序)返回相關長期記憶,供 Agent 在後續對話中按需召回。
相比自行實現記憶抽取與檢索,開發人員無需自建 LLM 調用、向量/全文檢索索引、資料隔離與審計等能力即可使用。服務支援百萬租戶級資料隔離與跨會話記憶複用。
如需瞭解記憶儲存服務的計費請參見產品計費;如需快速體驗記憶儲存服務,請參見寫入並召回第一條記憶。
記憶儲存服務當前支援地區:華北2(北京)、華東2(上海)、華東1(杭州)、華南1(深圳)、中國香港、新加坡。可就近選擇地區接入。
功能優勢
Serverless與彈性
全託管 Serverless 架構,使用者無需關心底層資源的部署和營運。隨用隨付,零用量零費用;基於分布式架構水平擴充,滿足百萬租戶、百億條記憶的情境需求。
記憶自動提取,無需額外開發
入對話或文本後自動提取關鍵事實和偏好,產生結構化的記憶單元。開發人員無需編寫額外的提取邏輯,也無需自行處理記憶的抽取和組織。可通過記憶庫層級的自訂抽取指令(
extractInstructions)引導抽取聚焦業務關鍵資訊。精準語義檢索,節省 Token
支援向量檢索與全文檢索索引的混合檢索模式,以自然語言作為查詢輸入召回相關記憶。相比傳入完整對話歷史約節省95% 的 Token,避免 O(N²) 增長以及“Lost in the Middle”效能退化。
海量租戶隔離
通過
appId、tenantId、agentId、runId四級 Scope 實現資料隔離,開發人員可按應用、租戶、Agent 和交談群組織記憶資料邊界,滿足百萬租戶層級的多租戶隔離需求。檔案視圖讀取
服務託管的結構化記憶支援兩種讀取方式:通過 SDK、CLI 等介面進行結構化讀取,或通過檔案視圖按目錄和檔案讀取。檔案視圖以唯讀檔案形式呈現記憶資料。應用仍通過結構化介面寫入或修改源記憶,避免檔案操作與結構化記憶產生衝突。
檔案記憶
已有 Markdown 等 UTF-8 文字檔或需要自行組織記憶目錄時,可以直接將檔案寫入檔案記憶庫。應用控制檔案路徑,並可建立、讀取、更新、重新命名和刪除檔案,以及查詢歷史版本。檔案記憶 Dream 還能跨 Scope 歸併、錯誤修正和重組文字檔,並把結果自動寫入指定的輸出 Scope。
知識編譯與記憶整理
Wiki 將來來源文件非同步構建為相互連結的 Markdown 頁面供跨會話複用。Agent 可以先搜尋 Wiki,再按路徑讀取命中頁面,在不同會話中複用同一 Agent 的持久知識;記憶整理(Dream)在後台非同步對已入庫內容做二次提煉,可進行歸併、去重、更新、提取技能畫像等。
典型應用情境
情境 | 說明 |
多輪對話連續性 | 長對話情境中,將歷史訊息寫入記憶庫,由服務保留原始訊息並提取關鍵事實。後續對話僅按需召回相關記憶,避免將完整歷史全量注入上下文。 |
跨會話偏好沿用 | 使用者在多個會話中表達的偏好、習慣和約束被提取為長期記憶單元,新會話中通過語義檢索召回,使 Agent 在不同時間、不同入口仍能保持一致的應答風格。 |
多 Agent 知識共用 | 通過四級 Scope 中 |
Agent 資料圖譜化 | 把產品說明、操作手冊和專案約定作為 Wiki 來源持續維護,服務將資料構建為可搜尋、相互連結且帶來源引用的頁面。不同會話可以共用同一 Agent Scope 的 Wiki,同時唯讀取當前任務需要的少量頁面。 |
使用者畫像沉澱 | 將使用者行為、屬性和歷史事實持續寫入記憶庫,由服務自動歸併為結構化的畫像單元,供推薦、客服、營銷等下遊 Agent 直接召回使用。 |
記憶提取為非同步過程,且由系統自動完成,對寫入即時性要求極高或需要完全自訂提取策略的情境需評估。
純結構化資料查詢建議使用Table Store寬表模型或關係型資料庫。
僅需上下文視窗管理、不需持久化記憶的情境可直接使用 LLM 上下文視窗。
名詞解釋
記憶庫的資料按以下實體組織。
實體 | 說明 |
MemoryStore | 記憶庫,管理記憶資料的頂層容器 |
Memory | 長期記憶,從對話或文本中提取的可檢索資訊 |
Message | 短期記憶,寫入的原始會話訊息記錄 |
Item | 帶路徑和版本的記憶檔案 |
Wiki | 按三段 Agent Scope 組織的知識圖譜頁面集合 |
Dream Task / Action | 非同步整理任務及其結構化記憶或檔案變更記錄 |
MemoryStore
MemoryStore 是記憶庫,管理記憶資料的頂層容器。先建立記憶庫,再向記憶庫寫入訊息、檢索記憶或查詢審計記錄。可按應用、環境(開發、測試、生產)或業務線劃分記憶庫;名稱僅含字母、數字、底線,最長 32 字元。
Memory
Memory 是長期記憶。服務在寫入對話訊息或文本後,會提取可長期儲存和檢索的資訊,並產生記憶單元。每條通常包含記憶 ID、文本、Scope、中繼資料、建立時間及版本管理資訊。
Message
Message 是短期記憶,即寫入記憶庫的原始會話訊息記錄。可通過 ListMemoryStoreMessages 查詢;短期記憶的 Scope 規則見 Scope 目錄層級管理。
Item
帶路徑和版本的記憶檔案,在檔案記憶庫中按路徑組織文字檔(如 Markdown),支援增刪改查與歷史版本查詢。檔案記憶 Dream 的跨 Scope 歸併、錯誤修正和重組見 Agentic Task 的記憶整理。
Wiki
按三段 Agent Scope 組織的知識圖譜頁面集合,供同一 Agent 在不同會話中複用持久知識,詳情可參見知識編譯(Wiki)。
Dream Task / Action
對已入庫內容的非同步整理任務(Dream Task),產出結構化記憶或檔案變更記錄(Dream Action),詳情可參見記憶整理(Dream)。
Scope 目錄層級管理
Scope 用於表示記憶資料的歸屬和隔離邊界。記憶服務使用 appId 、 tenantId 、 agentId 、runId 四級 Scope。
欄位 | 說明 |
| 應用標識,通常對應一個業務應用或產品 |
| 租戶或使用者標識 |
| Agent 標識 |
| 會話、運行或任務標識 |
Scope 的層級為:
appId > tenantId > agentId > runId核心規則:
寫入時,
appId必填,其他欄位為空白時補為__default__。寫入不允許使用萬用字元*。檢索記憶時,
appId必填且不能為*。其他欄位省略時表示__default__,顯式傳入*才表示通配。查詢短期記憶時,四個欄位均為必填且不允許萬用字元。
常見檢索範圍樣本
檢索範圍 | Scope 設定 | 適用情境 |
當前會話內 |
| 只希望使用當前會話歷史 |
跨會話 |
| 同一 Agent 在多次會話中複用使用者偏好 |
跨 Agent、跨會話 |
| 多個 Agent 共用使用者記憶 |
Scope 與多記憶庫的選擇
MemoryStore 支援按應用、環境或業務線建立獨立記憶庫。當資料屬於同一應用中的不同使用者或 Agent 時,推薦使用 Scope 在同一記憶庫內隔離,管理成本更低,且支援萬用字元跨 Scope 聯合檢索。當不同業務域需要完全獨立的資料空間時,建議建立多個記憶庫。
記憶資料管理
記憶寫入
記憶服務支援以下兩種方式寫入記憶:
對話訊息寫入 :通過
AddMemories介面傳入messages數組。服務儲存原始訊息為短期記憶,並根據記憶庫的outputTypes產生結構化記憶、唯讀記憶檔案或兩種結果。文本寫入 :通過
AddMemories介面傳入text欄位,直接提交純文字內容,並產生記憶庫配置的輸出。
寫入時需指定 Scope 資訊,其中 appId 必填,tenantId、agentId、runId 為空白時自動補為 __default__。寫入不允許使用萬用字元 *。
寫入預設非同步執行(sync=false):原始訊息先落庫並可立即作為短期記憶查詢,配置的輸出在後台產生。可通過 AddMemories 返回的 requestId,調用 GetMemoryTask 跟蹤任務狀態。包含 file 輸出的記憶庫只支援非同步寫入。記憶庫還支援自訂抽取指令(extractInstructions),在建立或更新記憶庫時設定,注入抽取提示詞以引導該庫的長期記憶抽取聚焦業務關鍵資訊。
記憶檢索
SearchMemories 支援使用自然語言檢索長期記憶。服務結合語義檢索和文本檢索能力,並支援 Rerank 排序,預設啟用 Rerank。
檢索時 appId 和 tenantId 為必要欄位,agentId 和 runId 可使用萬用字元 * 擴大檢索範圍。
檢索結果同時返回融合得分 score 與歸一化相似性 similarity。可通過 minSimilarity 過濾低相關結果。設定 includeEvidence=true,可在結果中附帶命中記憶對應的原始訊息片段(evidence),便於增強答題模型的可解釋性。
長期記憶支援附加中繼資料(metadata)。中繼資料可用於儲存業務自訂資訊,例如記憶來源、標籤和優先順序等。中繼資料隨記憶單元一起儲存,檢索結果中會返回對應的中繼資料欄位。
Agentic Task
記憶整理(Dream)
記憶整理(Dream)是對記憶庫中已有資料進行二次提煉的非同步能力。結構化記憶庫和可寫檔案記憶庫使用不同的輸入與寫入模型。
結構化記憶 Dream
服務在後台分析長期記憶與原始訊息,產出可應用的整理動作。整理對象分為三類:
記憶整理( memory):對長期記憶去重、改寫、合并,並刪除過時項。
技能提取( skill):從歷史互動中提取可複用技能
畫像提取( profile):沉澱結構化使用者畫像
結構化記憶整理支援 proposal、safe_auto 和高強度 plan 模式。proposal 產生提案,由人工或程式確認後應用;safe_auto 在達到信賴度閾值時自動應用;plan 先等待計劃批准,再執行已授權的刪除範圍。
檔案記憶 Dream
對 inputType=file、outputTypes=["file"] 的記憶庫,Dream 從一個或多個輸入 Scope 凍結文字檔版本,並把整理後的完整結果自動寫入一個確定的輸出 Scope。檔案動作包括新增、更新、改名和刪除,所有更新與刪除均使用版本前置條件保護並發寫入。
檔案記憶 Dream 固定使用高強度自動模式,不產生等待人工 Apply 的提案。查詢任務和動作仍使用 GetMemoryDreamTask、ListMemoryDreamTasks 和 ListMemoryDreamActions。詳細流程參見記憶整理(Dream)。
知識編譯(Wiki)
Agent Wiki 把 /.wiki/raw/ 下的來源檔案非同步構建為相互連結的 Markdown 頁面。每個 Wiki 唯一歸屬於一個記憶庫和一個 appId / tenantId / agentId 三段 Scope;同一 Agent 的不同會話共用頁面。
應用通過 GetWiki 查詢或自動建立 Wiki,使用 IngestWiki 構建,通過 ListWikiPages、SearchWikiPages 和 GetWikiPage 消費發行頁面。新構建發布前,舊頁面集合保持可讀。詳細流程參見知識編譯(Wiki)。
企業級能力
請求審計
服務記錄記憶程式庫要求,可通過 ListMemoryStoreRequests 查詢請求日誌。審計記錄包含操作類型、響應狀態、延遲和失敗原因等欄位,適用於排查寫入、檢索和管理操作中的問題。
任務與可觀測性
記憶寫入與記憶整理均為非同步任務,服務提供配套的查詢能力:
GetMemoryTask與ListMemoryTasks:查詢記憶抽取任務的狀態與產出。GetMemoryDreamTask、ListMemoryDreamTasks與ListMemoryDreamActions:查詢記憶整理任務與動作。ListMemoryStoreScopes:使用四級scope或結構化filter列出已登記的 conversation Scope;返回穩定的scopeKey,便於發現和分頁遍曆會話範圍。ListMemoryStoreRequests:請求審計日誌查詢。
效能參考
從檢索準確率、檢索延時和儲存規模三個維度對錶格儲存記憶服務進行了評測,並與業界主流記憶方案 Mem0 進行了對比。
維度 | Table Store記憶服務 | 行業對比 |
綜合檢索準確率 | 88.25% | 較 Mem0(64.20%)提升約 37.4% |
P50 檢索延時 | \~155 ms | 同類方案通常 200-500 ms,降低約 75% |
已驗證儲存規模 | 億層級條記憶,可水平擴充無上限 | 同類方案多為百萬至千萬級 |
Token 節省 | 95% | 較 Plan A(全量注入)節省約 95% |
上述資料用於展示服務能力邊界,實際效果會受到資料規模、查詢方式、網路環境、模型配置和業務資料分布影響。以下是各維度評測詳情。