Memory Storage は、AI エージェント向けに Alibaba Cloud Tablestore 上に構築されたサーバーレスのメモリサービスです。メモリの書き込み、自動抽出、セマンティック検索機能を提供します。Memory Storage は、100 万テナント規模でのマルチテナントのデータ分離と、セッションをまたいだメモリの再利用をサポートします。
Memory Storage とは
会話のメッセージやテキストをメモリストアに書き込みます。Memory Storage は、元のメッセージを短期記憶として保持し、検索可能な長期記憶ユニットを自動的に抽出して Tablestore に永続化します。検索時、Memory Storage はセマンティック検索とテキスト検索を組み合わせ、リランキングによるソートをサポートし、エージェントが後続の会話で必要に応じて呼び出すことができる関連性の高い長期記憶を返します。
自身でメモリの抽出と検索を構築する場合と比較して、LLM の呼び出し、ベクトル検索、全文検索、データ分離、または監査機能をプロビジョニングする必要はありません。Memory Storage は、これらの機能をサービスの一部として提供します。
主な利点
Memory Storage には、主に次の利点があります。
サーバーレスと弾力性:フルマネージドのサーバーレスアーキテクチャにより、基盤となるリソースのデプロイやメンテナンスは不要です。従量課金制のため、利用がない場合は料金は発生しません。分散アーキテクチャは、数百万のテナントと数百億のメモリを扱うシナリオに対応するため、水平スケーリングが可能です。
追加開発不要の自動メモリ抽出:会話のメッセージやテキストを書き込むと、Memory Storage は自動的に主要な事実や好みを抽出し、構造化されたメモリユニットを生成します。追加の抽出ロジックを記述したり、メモリの抽出と整理を自身で管理したりする必要はありません。カスタムのメモリストアレベルの抽出指示を使用することで、ビジネスに不可欠な情報に焦点を当てた抽出が可能になります。
トークンを節約する高精度なセマンティック検索:Memory Storage は、自然言語をクエリ入力として関連するメモリを呼び出すための、ベクトル検索と全文検索のハイブリッドモードをサポートします。完全な会話履歴を含める場合と比較して、約 95% のトークンを節約し、O(N²) の増加や、モデルが長いコンテキストの中間にある情報へ注意を向けにくくなる、「中間情報の喪失」と呼ばれるパフォーマンスの低下を回避します。
大規模なテナント分離:Memory Storage は、4 階層のスコープを使用してデータを分離します。アプリケーション、テナント、エージェント、セッションごとにメモリデータの境界を整理することで、100 万テナントレベルのマルチテナント分離要件を満たすことができます。詳細については、「スコープ階層管理」をご参照ください。
ファイルビューアクセス:サービスが管理する構造化メモリは、SDK、CLI、またはその他のインターフェースによる構造化アクセスと、ファイルビューを介したディレクトリおよびファイルベースのアクセスという、2つのアクセス方法をサポートします。ファイルビューは、メモリデータを読み取り専用ファイルとして表示します。ファイル操作と構造化メモリ間の競合を防ぐため、引き続き構造化インターフェースを介してソースメモリを書き込みまたは変更します。
ファイルメモリ:すでに Markdown やその他の UTF-8 テキストファイルがある場合、またはメモリディレクトリを自身で整理する必要がある場合は、ファイルを直接ファイルメモリストアに書き込むことができます。ファイルパスを制御し、ファイルの作成、読み取り、更新、名前変更、および履歴バージョンのクエリを実行できます。File Memory Dream は、スコープをまたいでテキストファイルをマージ、修正、再編成し、結果を自動的に指定された出力スコープに書き込むこともできます。
ナレッジコンピレーション (Wiki) とメモリ統合 (Dream):Wiki は、ソースドキュメントを非同期で相互にリンクされた Markdown ページとして構築し、クロスセッションでの再利用を可能にします。エージェントはまず Wiki を検索し、次にパスで一致するページを読み取ることで、同じエージェントの永続的なナレッジをセッション間で再利用できます。メモリ統合 (Dream) は、取り込まれたコンテンツをバックグラウンドで非同期に洗練させます。これには、マージ、重複排除、更新、スキルプロファイルの抽出が含まれます。詳細については、「エージェントタスク」をご参照ください。
一般的なシナリオ
次の表に、Memory Storage の一般的なシナリオを示します。
| シナリオ | 説明 |
| 複数ターンにわたる会話の継続性 | 長い会話では、履歴メッセージがメモリストアに書き込まれます。Memory Storage は元のメッセージを保持し、重要な事実を抽出します。後続の会話では、必要に応じて関連するメモリのみを呼び出すため、完全な履歴をコンテキストに含める必要がなくなります。 |
| クロスセッションでの好みの再利用 | ユーザーが複数のセッションで表現した好み、習慣、制約は、長期記憶ユニットとして抽出されます。新しいセッションでは、セマンティック検索を通じてそれらを呼び出すことで、エージェントが異なる時間やエントリーポイントで一貫した応答スタイルを維持できるようになります。 |
| 複数エージェント間でのナレッジ共有 | 4 階層のスコープでagentIdにワイルドカードを使用することで、複数のエージェントがテナント内で同じユーザーメモリを共有でき、各エージェントで同じ事実を繰り返し抽出および維持する必要がなくなります。 |
| エージェントのナレッジグラフ | 製品説明、操作マニュアル、プロジェクトの規約を Wiki のソースとして維持できます。Memory Storage は、これらを検索可能で相互にリンクされた、ソース参照付きのページとして構築します。異なるセッションが同じエージェントスコープ内の Wiki を共有し、現在のタスクに必要なページのみを読み取ることができます。 |
| ユーザープロファイルの蓄積 | ユーザーの行動、属性、および過去の事実は、継続的にメモリストアに書き込まれます。Memory Storage はこれらを自動的に構造化されたプロファイルユニットに統合し、エージェントがレコメンデーション、カスタマーサービス、マーケティングで呼び出して使用できるようにします。 |
制限事項
Memory Storage は現在、中国 (北京)、中国 (上海)、中国 (杭州)、中国 (深圳)、中国 (香港)、およびシンガポールの各リージョンで利用可能です。サービスにアクセスするには、最寄りのリージョンを選択してください。
Memory Storage を使用する前に、次の点にご注意ください。
非同期抽出:メモリの抽出は非同期であり、システムによって自動的に実行されます。お使いのシナリオで極めて低い書き込みレイテンシーや完全にカスタマイズされた抽出戦略が必要な場合は、採用前に Memory Storage を慎重に評価してください。
構造化データクエリ:構造化データのみのクエリには、Tablestore のワイドテーブルモデルまたはリレーショナルデータベースを使用してください。
コンテキストウィンドウのみのシナリオ:コンテキストウィンドウの管理のみが必要で、永続的なメモリが不要なシナリオでは、LLM のコンテキストウィンドウを直接使用してください。
メモリストア名:メモリストア名には、英数字とアンダースコアのみを使用でき、長さは最大 32 文字です。
用語集
メモリストア内のデータは、次のエンティティに整理されます。
MemoryStore
MemoryStore はメモリストアであり、メモリデータを管理するための最上位のコンテナです。メッセージの書き込み、メモリの検索、または監査記録のクエリを行う前に、メモリストアを作成してください。アプリケーション、環境 (開発、テスト、本番など)、またはビジネスラインごとにメモリストアを分離できます。
Memory
Memory は長期記憶です。会話のメッセージやテキストが書き込まれた後、Memory Storage は長期間保存および検索できる情報を抽出し、メモリユニットを生成します。各ユニットには通常、メモリ ID、テキスト、スコープ、メタデータ、作成時刻、およびバージョン管理情報が含まれます。
Message
Message は短期記憶です。これは、メモリストアに書き込まれた元の会話メッセージの記録です。ListMemoryStoreMessagesを使用してメッセージをクエリできます。短期記憶のスコープルールについては、「スコープ階層管理」をご参照ください。
Item
Item は、パスとバージョンで管理されるメモリファイルです。ファイルメモリストアは、Markdown ファイルなどのテキストファイルをパスで整理し、作成、読み取り、更新、削除、および履歴バージョンのクエリをサポートします。File Memory Dream によるスコープをまたいだマージ、修正、再編成については、「エージェントタスク」の「メモリ統合 (Dream)」をご参照ください。
Wiki
Wiki は、3 つのセグメントからなるエージェントスコープ (appId、tenantId、agentId) で整理されたナレッジグラフページのコレクションです。Wiki により、同じエージェントがセッションをまたいで永続的なナレッジを再利用できます。詳細については、「ナレッジコンピレーション (Wiki)」をご参照ください。
Dream Task / Action
Dream Task は、取り込まれたコンテンツに対する非同期の統合タスクです。Dream Actions と呼ばれる構造化されたメモリまたはファイルの変更記録を生成します。詳細については、「メモリ統合 (Dream)」をご参照ください。
スコープ階層管理
スコープは、メモリデータの所有権と分離の境界を表します。Memory Storage は、appId、tenantId、agentId、およびrunIdから構成される 4 階層のスコープを使用します。
| フィールド | 説明 |
appId | アプリケーション識別子。通常、ビジネスアプリケーションまたは製品に対応します。 |
tenantId | テナントまたはユーザーの識別子。 |
agentId | エージェント識別子。 |
runId | セッション、実行、またはタスクの識別子。 |
スコープの階層は次のとおりです。
appId > tenantId > agentId > runIdコアとなるルール
書き込み:
appIdは必須です。他のフィールドは空の場合、デフォルトで__default__になります。ワイルドカード (*) は許可されません。メモリ検索:
appIdとtenantIdは必須であり、appIdを*にすることはできません。agentIdとrunIdは省略された場合、デフォルトで__default__になります。明示的に*を渡すとワイルドカードを示します。短期記憶クエリ:4 つすべてのフィールドが必須であり、ワイルドカードは許可されません。
次の表に、一般的な検索スコープの例を示します。
| 検索スコープ | スコープ設定 | 適用シナリオ |
| 現在のセッション内 | appId、tenantId、agentId、runIdのすべてを指定 | 現在のセッション履歴のみを使用 |
| クロスセッション | appId + tenantId + agentId + runId="*" | 同じエージェントがセッションをまたいでユーザーの好みを再利用 |
| クロスエージェント、クロスセッション | appId + tenantId + agentId="*" + runId="*" | 複数のエージェントがユーザーメモリを共有 |
スコープと複数のメモリストア
MemoryStore は、アプリケーション、環境、またはビジネスラインごとに独立したメモリストアの作成をサポートします。同じアプリケーション内のデータが異なるユーザーやエージェントに属する場合、スコープを使用して同じメモリストア内のデータを分離します。このアプローチは管理コストを削減し、スコープをまたいだワイルドカード検索をサポートします。異なるビジネスドメインが完全に独立したデータスペースを必要とする場合は、複数のメモリストアを作成してください。
メモリデータ管理
メモリの書き込み
Memory Storage は、メモリを書き込むための次の 2 つの方法をサポートします。
会話メッセージの書き込み:
AddMemoriesをmessages配列とともに呼び出します。Memory Storage は元のメッセージを短期記憶として保持し、メモリストアのoutputTypesに従って、構造化されたメモリ、読み取り専用のメモリファイル、またはその両方を生成します。テキストの書き込み:
AddMemoriesをtextフィールドとともに呼び出して、プレーンテキストコンテンツを直接送信し、メモリストアに設定された出力を生成します。
メモリを書き込む際には、スコープ情報を指定します。必須のスコープフィールドとデフォルト値については、「スコープ階層管理」をご参照ください。
書き込みはデフォルトで非同期 (sync=false) で実行されます。元のメッセージは最初に保存され、短期記憶としてすぐにクエリできますが、設定された出力はバックグラウンドで生成されます。AddMemoriesによって返されるrequestIdを使用してGetMemoryTaskを呼び出し、タスクのステータスを追跡できます。file出力を含むメモリストアは、非同期書き込みのみをサポートします。
また、メモリストアを作成または更新する際に、カスタムの抽出指示 (extractInstructions) を設定することもできます。これらの指示は抽出プロンプトに注入され、そのストアの長期記憶抽出の焦点を、ビジネスに不可欠な情報に絞り込みます。
メモリ検索
SearchMemoriesは、自然言語を使用して長期記憶を検索することに対応しています。Memory Storage は、セマンティック検索とテキスト検索を組み合わせ、デフォルトで有効になっているリランキングによるソートをサポートします。
agentIdとrunIdにワイルドカード*を使用して、検索スコープを広げることができます。必須のスコープフィールドとワイルドカードのルールについては、「スコープ階層管理」をご参照ください。
検索結果は、融合スコア (score) と正規化された類似度 (similarity) の両方を返します。minSimilarityを使用して、関連性の低い結果をフィルタリングできます。includeEvidence=trueを設定すると、一致するメモリに対応する元のメッセージの断片 (evidence) が結果に含まれ、回答の解釈可能性を高めるのに役立ちます。
長期記憶は追加のメタデータ (metadata) に対応しています。メタデータを使用して、メモリのソース、タグ、優先度など、ビジネス固有の情報を保存できます。各メタデータフィールドは、そのメモリユニットとともに保存され、検索結果のデータフィールドとして返されます。
エージェントタスク
メモリ統合 (Dream)
メモリ統合 (Dream) は、メモリストアにすでに保存されているデータに対して、非同期で二次的な洗練を実行します。構造化メモリストアと書き込み可能なファイルメモリストアでは、異なる入力モデルと書き込みモデルが使用されます。
構造化メモリの Dream
Memory Storage は、バックグラウンドで長期記憶と元のメッセージを分析し、適用可能な統合アクションを生成します。統合の対象には、次の 3 つのカテゴリがあります。
メモリ統合 (
memory):長期記憶の重複排除、書き換え、マージ、および古いアイテムの削除。スキル抽出 (
skill):過去のインタラクションから再利用可能なスキルを抽出。プロファイル抽出 (
profile):構造化されたユーザープロファイルの作成。
構造化メモリ統合は、proposal、safe_auto、およびplanモードをサポートします。
proposalは、手動またはプログラムによる確認後に適用される提案を生成します。safe_autoは、信頼度がしきい値に達したときに提案を自動的に適用します。planは高強度のモードで、プランの承認を待ってから、承認された削除スコープを実行します。
File Memory Dream
inputType=fileおよびoutputTypes=["file"]が設定されたメモリストアの場合、Dream は 1 つ以上の入力スコープからテキストファイルのバージョンを凍結し、統合された完全な結果を特定の出力スコープに自動的に書き込みます。ファイルアクションには、作成、更新、名前変更、削除が含まれます。すべての更新と削除は、同時書き込みを防ぐためにバージョン前提条件を使用します。
File Memory Dream は常に高強度の自動モードを使用し、手動適用を待つ提案を生成しません。GetMemoryDreamTask、ListMemoryDreamTasks、およびListMemoryDreamActionsを使用して、タスクとアクションをクエリすることは引き続き可能です。詳細なワークフローについては、「メモリ統合 (Dream)」をご参照ください。
ナレッジコンピレーション (Wiki)
エージェント Wiki は、/.wiki/raw/以下のソースファイルを非同期で相互にリンクされた Markdown ページとして構築します。各 Wiki は、1 つのメモリストアと 3 つのセグメントからなるappId / tenantId / agentIdスコープに厳密に属します。同じエージェントの異なるセッションがページを共有します。
Wiki を構築して利用するには、次の操作を使用します。
GetWikiを呼び出して Wiki をクエリするか、自動的に作成します。IngestWikiを呼び出して Wiki を構築します。ListWikiPages、SearchWikiPages、およびGetWikiPageを呼び出して、公開されたページを利用します。
新しいビルドが公開される前に、以前のページセットは引き続き読み取り可能です。詳細なワークフローについては、「ナレッジコンピレーション (Wiki)」をご参照ください。
エンタープライズ機能
リクエスト監査
Memory Storage は、メモリストアのリクエストを記録します。ListMemoryStoreRequestsを介してログクエリを実行できます。監査記録には、操作タイプ、応答ステータス、レイテンシー、失敗理由、およびその他の情報が含まれており、書き込み、検索、および管理操作のトラブルシューティングに役立ちます。
タスクと可観測性
メモリの書き込みとメモリの統合は非同期タスクです。Memory Storage は、次のクエリ機能を提供します。
GetMemoryTaskとListMemoryTasks:メモリ抽出タスクのステータスと出力をクエリします。GetMemoryDreamTask、ListMemoryDreamTasks、およびListMemoryDreamActions:メモリ統合タスクとアクションをクエリします。ListMemoryStoreScopes:4 階層のscopeまたは構造化されたfilterを使用して、登録された会話スコープを一覧表示します。セッション範囲の検出とページネーションのために、安定したscopeKeyを返します。ListMemoryStoreRequests:リクエスト監査ログをクエリします。
パフォーマンス参照
Memory Storage は、検索精度、検索レイテンシー、ストレージ規模、およびトークンコストにわたって評価されました。検索精度の評価では、Memory Storage を Mem0 メモリソリューションと比較しています。
| ディメンション | Memory Storage | 業界比較 |
| 全体的な検索精度 | 88.25% | Mem0 の公開評価結果に基づくと、Mem0 (64.20%) より約 37.4% 高い |
| P50 検索レイテンシー | 155~222 ms、topK に依存 (1 億エントリ規模でリランキングを無効にして測定) | 類似のソリューションは通常 200~500 ms |
| 検証済みのストレージ規模 | 単一のメモリストアで 1 億以上のメモリエントリと 120 万のテナント、水平スケーリングにより上限なし | 類似のソリューションは通常、数百万から数千万のエントリに対応 |
| トークン節約率 | 95% | 各ラウンドで完全な会話履歴を注入するプラン A よりも約 95% 低い |
P50 検索レイテンシーは、リランキングを無効にして測定されています。リランキングはデフォルトで有効になっており、検索レイテンシーが 200~300 ms 増加します。
これらの結果は、サービスの対応能力の範囲を示すものです。実際の結果は、データ量、クエリパターン、ネットワーク条件、モデル構成、およびビジネスデータの分布に影響を受けます。次のセクションでは、各ディメンションについて詳しく説明します。
検索精度
ベンチマーク:LoCoMo データセット
LoCoMo は、メモリシステムを評価するためのベンチマークです。3~5 ラウンドの短い会話のみを対象とする以前の評価セットとは異なり、各 LoCoMo テストデータパケットは、35 のセッションにわたって平均 300 ラウンドの会話を行い、ユーザーと AI アシスタントとの間の現実世界の長期的なインタラクションに酷似しています。
LoCoMo は、シングルホップ、マルチホップ、時間的推論、オープン ドメイン、および敵対的質問の 5 つのカテゴリの推論質問応答を定義します。この評価では、これらのカテゴリのうち 4 つを使用し、敵対的質問は除外します。
| 評価ディメンション | 意味 | 日常会話における典型的なシナリオ |
| シングルホップ推論 | 単一のセッションで直接事実を見つける | 「前回、私が何を飲みたいと言ったか覚えていますか?」 |
| マルチホップ推論 | 複数のセッションからの情報を組み合わせて答えを導き出す | 「私の食事の好みと健康診断の結果に基づいて、ランチを推奨してください。」 |
| 時間的推論 | 時間的な手がかりと順序を理解する | 「最初は転職したいと言って、その後は留まると言いました。私の現在の見解は何ですか?」 |
| オープン ドメイン | ユーザーの履歴と外部の常識的推論を組み合わせる | 「私はピーナッツアレルギーだと言いました。サテソースは食べられますか?」 |
次の表に評価結果を示します。
| メモリソリューション | シングルホップ | マルチホップ | 時間的 | オープン ドメイン | 全体的な精度 |
| Memory Storage | 88.94% | 90.78% | 88.16% | 75.00% | 88.25% |
| Mem0 | 68.97% | 61.70% | 58.26% | 50.00% | 64.20% |
4 つすべての推論カテゴリにおいて、Memory Storage は Mem0 よりも高い精度率を示しています。単一の事実を直接検索するシングルホップ推論では、その差は約 20 パーセントポイントです。マルチホップ推論と時間的推論では、差はさらに大きく、それぞれ約 29 および 30 パーセントポイントです。AI が複数の会話を結びつけ、イベントの順序を理解してから判断を下す必要がある質問に対して、Memory Storage はより高い検索品質を提供します。
方法論:Memory Storage の評価では、10 の LoCoMo 会話すべてと、4 つの推論カテゴリにわたる 1,540 の質問を使用します。テストでは、Mem0 の最新の公式 LoCoMo 回答プロンプトを使用します。回答モデルとジャッジモデルの両方がqwen-maxであり、テストでは Mem0 が提供する緩やかなジャッジを使用します。Mem0 の比較データは、その公開評価結果から引用したものです。
検索レイテンシー
このテストでは、1 つのメモリストア、120 万のテナント、および 1 億以上のメモリエントリを含む大規模シナリオを使用し、リランキングは無効にしています。次の表では、topK は検索が返す上位結果の数です。
| topK | 平均レイテンシー | P50 レイテンシー | P95 レイテンシー |
| 5 | 164 ms | 155 ms | 269 ms |
| 10 | 198 ms | 174 ms | 288 ms |
| 50 | 234 ms | 222 ms | 384 ms |
1 億エントリ規模では、topK の値にかかわらず、P50 レイテンシーは約 200 ms で安定しています。サービスが上位 50 の結果を返す場合でも、P95 は 384 ms 以内に収まります。1 日のアクティブユーザーが 100 万人のアプリのすべてのユーザーメモリを単一のメモリストアに保存しても、各会話のメモリ検索は 200 ms 以内に完了します。デフォルトでオンになっているリランキングを有効にすると、検索レイテンシーは 200~300 ms 増加します。
ストレージ規模
単一のメモリストアで、120 万のテナントと 1 億以上のメモリエントリのストレージと検索に対応していることが検証されています。Tablestore の分散アーキテクチャにより、理論上の上限なしで水平スケーリングが可能です。テナント数に応じてデータベースやテーブルをシャーディングする容量計画は不要です。ストレージ層は、ビジネスの成長に合わせて自動的にスケーリングします。
トークンコスト
プラン A は、各ラウンドで完全な会話履歴を注入します。プラン B は、1 回限りの抽出を実行し、各ラウンドで検索されたメモリのみを注入します。会話トークンは、モデルサービスから返されるusageフィールドを通じて正確にカウントされます。抽出トークンは、本番の抽出プロンプトを再現して計算されるため、データは控えめな値になっています。
次の表では、クエリごとの会話トークンは、質問 1 回あたりの平均会話トークン数です。メモリ抽出トークンは、4 つの会話に対する 1 回限りの抽出トークンであり、プラン B のみに適用されます。コンテキスト付きの全会話トークンは、4 つの会話にわたる 827 の質問から外挿された総消費量です。
| 評価ディメンション (4 つの LoCoMo 会話に基づく) | プラン A | プラン B |
| クエリあたりの会話トークン | 24,985 | 823 |
| メモリ抽出トークン | N/A | 320,667 |
| コンテキスト付きの全会話トークン | 20,662,543 | 1,001,153 |
| 会話のみの節約率 | N/A | 96.7% |
| 抽出を含む総節約率 | N/A | 95.1% |
トークン評価は、4 つの LoCoMo 会話と 827 の質問に基づいています。精度評価は、10 の会話すべてと 1,540 の質問を対象としています。