Data Transmission Service (DTS) は、MongoDB レプリカセットを別のレプリカセットまたはシャードクラスターに同期できます。
サポートされるソースデータベースとターゲットデータベース
このセクションでは、MongoDB レプリカセットから MongoDB レプリカセットまたはシャードクラスターにデータを同期するためにサポートされているソースデータベースとターゲットデータベースを一覧表示します。このトピックでは、ソースとして ApsaraDB for MongoDB レプリカセットインスタンス、ターゲットとして ApsaraDB for MongoDB レプリカセットまたはシャードクラスターインスタンスを使用した設定手順を説明します。他のデータソースの手順も同様です。
|
ソースデータベース |
ターゲットデータベース |
|
ApsaraDB for MongoDB レプリカセットインスタンス |
ApsaraDB for MongoDB レプリカセットまたはシャードクラスターインスタンス |
|
ECS インスタンス上の自主管理 MongoDB レプリカセット |
ECS インスタンス上の自主管理 MongoDB レプリカセットまたはシャードクラスター |
|
Express Connect、VPN Gateway、または Smart Access Gateway 経由で接続された自主管理 MongoDB レプリカセット |
Express Connect、VPN Gateway、または Smart Access Gateway 経由で接続された自主管理 MongoDB レプリカセットまたはシャードクラスター |
前提条件
-
ソースの ApsaraDB for MongoDB レプリカセットインスタンスとターゲットの ApsaraDB for MongoDB インスタンス (レプリカセットまたはシャードクラスター) を作成しておく必要があります。手順については、「レプリカセットインスタンスの作成」および「シャードクラスターインスタンスの作成」をご参照ください。
説明サポートされているバージョンについては、「同期ソリューションの概要」をご参照ください。
-
ターゲットの ApsaraDB for MongoDB インスタンスは、ソースの ApsaraDB for MongoDB インスタンスが使用するストレージ容量より少なくとも 10% 多いストレージ容量が必要です。
-
ターゲットの ApsaraDB for MongoDB インスタンスがシャードクラスターの場合、ビジネス要件に基づいて、シャーディングしたいデータベースとコレクションを作成し、データシャーディングを設定し、バランサーを有効にし、ターゲットの ApsaraDB for MongoDB インスタンスで事前シャーディングを実行する必要があります。詳細については、「データシャーディングを設定してシャードのパフォーマンスを最大限に活用する」および「ApsaraDB for MongoDB シャードクラスターにおける不均衡なデータ分散の対処方法」をご参照ください。
説明データシャーディングを設定すると、同期されたデータがすべてのシャードに分散され、クラスターのパフォーマンスが最大化されます。バランサーを有効にして事前シャーディングを実行すると、データスキューを防ぐのに役立ちます。
制限事項
|
タイプ |
説明 |
|
ソースデータベースの制限 |
|
|
その他の制限 |
|
|
特殊なケース |
ソースデータベースが自主管理 MongoDB の場合:
説明
データベース全体の同期を選択した場合は、ハートビートテーブルを作成してください。このテーブルを毎秒更新または書き込みしてください。 |
課金
|
同期タイプ |
料金 |
|
スキーマ同期と完全データ同期 |
無料です。 |
|
増分データ同期 |
有料です。詳細については、「課金概要」をご参照ください。 |
サポートされる同期トポロジ
-
一方向 1 対 1 同期
-
一方向 1 対多同期
-
一方向多対 1 同期
-
一方向カスケード同期
これらの同期トポロジとその考慮事項の詳細については、「同期トポロジ」をご参照ください。
同期タイプ
|
タイプ |
説明 |
|
スキーマ同期 |
選択したオブジェクトのスキーマをソースの ApsaraDB for MongoDB インスタンスからターゲットの ApsaraDB for MongoDB インスタンスにレプリケートします。 |
|
完全データ同期 |
選択したオブジェクトのすべての既存データをソースの ApsaraDB for MongoDB インスタンスからターゲットの ApsaraDB for MongoDB インスタンスにレプリケートします。 説明
完全データ同期は、データベースレベルとコレクションレベルでサポートされています。 |
|
増分データ同期 |
完全データ同期が完了した後、ソースの ApsaraDB for MongoDB インスタンスからターゲットの ApsaraDB for MongoDB インスタンスへの継続的な変更をレプリケートします。 Oplog増分データ同期は、タスク開始後に作成されたデータベースをレプリケートしません。以下の変更がレプリケートされます:
Change stream以下の変更がレプリケートされます:
|
操作手順
-
ターゲットリージョンの同期タスクリストページに移動します。以下の 2 つの方法のいずれかを使用できます:
DTS コンソールから
-
左側のナビゲーションウィンドウで、データ同期 をクリックします。
-
ページの左上隅で、同期インスタンスが配置されているリージョンを選択します。
DMS コンソールから
説明実際の操作は、DMS コンソールのモードとレイアウトによって異なる場合があります。詳細については、「シンプルモード」および「DMS インターフェイスのレイアウトとスタイルをカスタマイズする」をご参照ください。
-
Data Management (DMS) にログインします。
-
上部のメニューバーで、を選択します。
-
データ同期タスク の右側で、同期インスタンスが配置されているリージョンを選択します。
-
タスクの作成 をクリックして、タスク設定ページを開きます。
-
ソースデータベースとターゲットデータベースを設定します。
警告ソースインスタンスとターゲットインスタンスを選択した後、ページの上部に表示される制限を注意深くお読みください。制限に従わない場合、タスクが失敗したり、データの不整合が発生したりする可能性があります。
カテゴリ
パラメーター
説明
N/A
タスク名
DTS は自動的にタスク名を生成します。簡単に識別できるように、わかりやすい名前を指定することを推奨します。名前は一意である必要はありません。
移行元データベース
既存の接続情報の選択
-
システムに追加された (新しく作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストからデータベースインスタンスを選択します。データベース情報は自動的に設定されます。
説明DMS コンソールでは、この設定項目は DMS データベースインスタンスの選択 という名前です。
-
データベースインスタンスをシステムに追加していない場合、または既に追加されているインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
データベースタイプ
MongoDBを選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
ソースの ApsaraDB for MongoDB インスタンスが配置されているリージョンを選択します。
Alibaba Cloud アカウント間でデータを複製
この例では、現在の Alibaba Cloud アカウントに属するデータベースインスタンスを使用します。× を選択します。
アーキテクチャ
レプリカセット を選択します。
移行方法
要件に基づいて、増分データ同期の方法を選択します。
-
Oplog (推奨):
このオプションは、ソースデータベースで Oplog が有効になっている場合に使用できます。
説明Oplog は、自主管理 MongoDB データベースおよび ApsaraDB for MongoDB インスタンスでデフォルトで有効になっています。この方法では、ログの取得が速いため、増分同期タスクのレイテンシーが低くなります。Oplog を選択することを推奨します。
-
ChangeStream:
このオプションは、ソースデータベースで Change Streams が有効になっている場合に使用できます。
説明-
ソースデータベースが Amazon DocumentDB (非エラスティッククラスター) インスタンスの場合、ChangeStream のみを選択できます。
-
ソースデータベースの アーキテクチャ を シャードクラスター に設定した場合、Shardアカウント と Shardパスワード を指定する必要はありません。
-
インスタンス ID
ソースの ApsaraDB for MongoDB インスタンスの ID を選択します。
認証データベース
ソースの ApsaraDB for MongoDB インスタンスのアカウントに関連付けられたデータベース名を入力します。デフォルトは
adminです。データベースアカウント
ソースの ApsaraDB for MongoDB データベースのアカウントを入力します。アカウントは、同期するデータベース、
configデータベース、adminデータベース、およびlocalデータベースに対する読み取り権限を持っている必要があります。データベースパスワード
データベースアカウントに対応するパスワードを入力します。
暗号化
DTS は 非暗号化、SSL 暗号化、Mongo Atlas SSL の 3 つの接続方法をサポートしています。暗号化 のオプションは、選択した アクセス方法 と アーキテクチャ によって異なります。コンソールに表示されるオプションが優先されます。
説明-
アーキテクチャ が シャードクラスター で、移行方法 が Oplog の MongoDB データベースは、SSL 暗号化 をサポートしていません。
-
ソースが自主管理 MongoDB データベース (アクセス方法 が Alibaba Cloud インスタンス ではない) で、レプリカセット アーキテクチャの場合、SSL 暗号化 を選択すると、DTS は接続を検証するために CA 証明書をアップロードすることもできます。
移行先データベース
既存の接続情報の選択
-
システムに追加された (新しく作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストからデータベースインスタンスを選択します。データベース情報は自動的に設定されます。
説明DMS コンソールでは、この設定項目は DMS データベースインスタンスの選択 という名前です。
-
データベースインスタンスをシステムに追加していない場合、または既に追加されているインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
データベースタイプ
MongoDB を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
ターゲットの ApsaraDB for MongoDB インスタンスが配置されているリージョンを選択します。
Alibaba Cloud アカウント間でデータを複製
この例では、現在の Alibaba Cloud アカウントに属するデータベースインスタンスを使用します。× を選択します。
アーキテクチャ
ターゲットの ApsaraDB for MongoDB インスタンスのアーキテクチャタイプを選択します。
インスタンス ID
ターゲットの ApsaraDB for MongoDB インスタンスの ID を選択します。
認証データベース
ターゲットの ApsaraDB for MongoDB インスタンスのアカウントに関連付けられたデータベース名を入力します。デフォルトは
adminです。データベースアカウント
ターゲットの ApsaraDB for MongoDB データベースのアカウントを入力します。アカウントは、dbAdminAnyDatabase 権限、ターゲットデータベースに対する readWrite 権限、および local データベースに対する読み取り権限を持っている必要があります。
データベースパスワード
データベースアカウントに対応するパスワードを入力します。
暗号化
DTS は、非暗号化、SSL 暗号化、および Mongo Atlas SSL の 3 つの接続方法をサポートしています。暗号化 のオプションは、選択した アクセス方法 と アーキテクチャ によって異なります。コンソールに表示されるオプションが優先されます。
説明-
アーキテクチャ が シャードクラスター の MongoDB データベースは、SSL 暗号化 をサポートしていません。
-
ターゲットが自主管理 MongoDB データベース (アクセス方法 が Alibaba Cloud インスタンス ではない) で、レプリカセット の場合、SSL 暗号化 を選択すると、DTS は接続を検証するために CA 証明書をアップロードすることもできます。
-
-
設定が完了したら、ページ下部の 接続をテストして続行 をクリックします。
説明-
DTS サーバーからのアクセスを許可するために、DTS サーバーの IP アドレス CIDR ブロックがソースおよびターゲットデータベースのセキュリティ設定に追加されていることを確認してください。これは自動または手動で行うことができます。詳細については、「DTS サーバーの IP アドレス CIDR ブロックをホワイトリストに追加する」をご参照ください。
-
ソースまたはターゲットデータベースが自己管理データベース (アクセス方法 が Alibaba Cloud インスタンス ではない) の場合、DTS サーバーの CIDR ブロック ダイアログボックスで 接続テスト をクリックする必要もあります。
-
-
タスクオブジェクトを設定します。
-
オブジェクト設定 ページで、同期するオブジェクトを設定します。
パラメーター
説明
同期タイプ
増分データ同期 が選択されています。デフォルトでは、スキーマ同期 と 完全データ同期 も選択する必要があります。事前チェックが完了すると、DTS は選択したオブジェクトの完全データ同期をソースインスタンスからターゲットクラスターに実行します。これは、後続の増分データ同期のベースラインデータとして機能します。
説明詳細については、「タスクステップ」をご参照ください。
競合するテーブルの処理モード
-
エラーの事前チェックと報告:ターゲットデータベースに同じ名前のコレクションがあるか確認します。同じ名前のコレクションが見つかった場合、エラーが報告され、データ同期タスクは開始されません。見つからない場合、事前チェックは成功します。
説明ターゲットデータベースで同じ名前のコレクションを削除または名前変更できない場合は、ターゲットデータベースのコレクション名を変更できます。詳細については、「ターゲットインスタンスでの同期オブジェクト名の設定」をご参照ください。
-
エラーを無視して続行:ターゲットデータベースで同じ名前のコレクションのチェックをバイパスします。
警告エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスにリスクをもたらす可能性があります。例:
-
ターゲットデータベースのレコードがソースデータベースのレコードと同じプライマリキーまたは一意キーの値を持つ場合、ターゲットデータベースのレコードが保持されます。ソースデータベースのレコードはターゲットデータベースに同期されません。
-
これにより、データ初期化が失敗したり、一部のデータのみが同期されたり、同期全体が失敗したりする可能性があります。
-
同期トポロジ
一方向同期 を選択します。
移行先インスタンスでのオブジェクト名の大文字化
ターゲットインスタンスに同期されるデータベースおよびコレクションオブジェクトの英語名の大文字/小文字の区別ポリシーを設定できます。DTS のデフォルトポリシー (デフォルトオプション) を選択するか、ソースまたはターゲットデータベースのデフォルトポリシーを使用できます。詳細については、「ターゲットオブジェクト名の大文字/小文字の区別ポリシー」をご参照ください。
ソースオブジェクト
ソースオブジェクト ボックスで、同期するオブジェクトをクリックし、
をクリックして 選択中のオブジェクト ボックスに移動します。説明DATABASE または COLLECTION レベルでオブジェクトを選択できます。
選択中のオブジェクト
-
ターゲットインスタンスで同期オブジェクトの名前を設定したり、データを受信するオブジェクトを指定したりするには、選択中のオブジェクト ボックスで同期オブジェクトを右クリックして変更します。詳細については、「テーブル名と列名のマッピング」をご参照ください。
-
同期オブジェクトを削除するには、選択中のオブジェクト ボックスでオブジェクトをクリックし、
をクリックして ソースオブジェクト ボックスに移動します。
説明-
データベースまたはコレクションレベルで増分操作を選択するには、選択中のオブジェクト ボックスで目的のオブジェクトを右クリックし、表示されるダイアログボックスで選択を行います。
-
データをフィルタリングするには (完全同期中にサポートされますが、増分同期ではサポートされません)、選択中のオブジェクト ボックスで目的のコレクションを右クリックし、表示されるダイアログボックスで設定を構成します。手順については、「フィルター条件の設定」をご参照ください。
-
オブジェクト名マッピング機能を使用してデータを受信するデータベースまたはコレクションを指定すると、マッピングされたオブジェクトに依存する他のオブジェクトの同期が失敗する可能性があります。
-
-
詳細設定へ をクリックして、詳細パラメーターを設定します。
パラメーター
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、DTS は共有クラスターでタスクをスケジュールするため、クラスターを選択する必要はありません。より安定したパフォーマンスを得るために、DTS 同期タスクを実行するための専用クラスターを購入できます。詳細については、「DTS 専用クラスターとは」をご参照ください。
失敗した接続の再試行時間
同期タスクが開始された後、ソースまたはターゲットデータベースへの接続が失敗した場合、DTS はエラーを報告し、直ちに接続の再試行を開始します。デフォルトの再試行時間は 720 分です。10 分から 1,440 分の範囲でカスタムの再試行時間を指定することもできます。30 分以上に設定することを推奨します。指定された時間内に DTS がデータベースに正常に再接続した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。
説明-
同じソースまたはターゲットを共有する複数の DTS インスタンス (例:インスタンス A とインスタンス B) があり、インスタンス A のネットワーク再試行時間を 30 分、インスタンス B を 60 分に設定した場合、両方に短い方の 30 分が使用されます。
-
DTS は接続再試行期間中のタスクランタイムに対して課金するため、ビジネスニーズに基づいて再試行時間をカスタマイズするか、ソースおよびターゲットデータベースインスタンスがリリースされた後、できるだけ早く DTS インスタンスをリリースすることを推奨します。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
同期タスクが開始された後、ソースまたはターゲットデータベースで接続以外の問題 (DDL または DML 実行例外など) が発生した場合、DTS はエラーを報告し、直ちに継続的な再試行操作を開始します。デフォルトの再試行時間は 10 分です。1 分から 1,440 分の範囲でカスタムの再試行時間を指定することもできます。10 分以上に設定することを推奨します。設定された再試行時間内に関連操作が成功した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値より小さくする必要があります。
完全同期レートを制限するかどうか
完全同期段階では、DTS はソースおよびターゲットデータベースの読み取りおよび書き込みリソースを消費し、データベースの負荷を増加させる可能性があります。ソースおよびターゲットデータベースの負荷を軽減するために、1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS パラメーターを設定することで、完全同期タスクのレート制限を設定できます。
説明-
この設定項目は、同期タイプ が 完全データ同期 に設定されている場合にのみ使用できます。
-
同期インスタンスが実行された後、完全同期レートを調整することもできます。
同期するデータのうち、同一テーブル内のプライマリキー_id のデータ型が一意かどうか
同期する各コレクション内で
_idプライマリキーのデータ型が一意であるかどうかを指定します。重要-
実際のデータに基づいてオプションを選択してください。誤った選択はデータ損失につながる可能性があります。
-
このパラメーターは、同期タイプ に 完全データ同期 が含まれている場合にのみ使用できます。
-
○:データ型は一意です。完全同期フェーズ中、DTS はソースデータのプライマリキーのデータ型をスキャンしません。各コレクションについて、DTS は 1 つのプライマリキーデータ型に対応するデータのみを同期します。
-
×:データ型は一意ではありません。完全同期フェーズ中、DTS はソースデータのプライマリキーのデータ型をスキャンし、すべてのデータを同期します。
増分同期率を制限するかどうか
増分同期タスクにもレート制限を設定できます。ターゲットデータベースへの圧力を軽減するために、1 秒あたりの増分同期の行数 RPS と 1 秒あたりの増分同期データ量 (MB) BPS を設定します。
環境タグ
要件に応じて、インスタンスを識別するための環境タグを選択できます。この例では、選択は不要です。
ETL 機能の設定
抽出、変換、ロード (ETL) 機能を有効にするかどうかを選択します。詳細については、「ETL とは」をご参照ください。有効な値:
-
○:ETL 機能を有効にします。コードエディタにデータ処理文を入力します。詳細については、「データ移行またはデータ同期タスクで ETL を設定する」をご参照ください。
-
×:ETL 機能を無効にします。
監視アラート
アラートを設定するかどうかを指定します。同期が失敗した場合、またはレイテンシーが指定されたしきい値を超えた場合、アラート連絡先に通知が送信されます。
-
×:アラートは設定されません。
-
○:アラートのしきい値を設定し、アラート通知を指定してアラートを設定します。詳細については、「タスク設定中のモニタリングとアラートの設定」をご参照ください。
-
-
[次へ:データ検証] をクリックして、データ検証タスクを設定します。
データ検証機能を使用する場合は、「データ検証の設定」で設定手順をご参照ください。
-
-
タスクを保存し、事前チェックを実行します。
-
このインスタンスを設定するための API パラメーターを表示するには、次:タスク設定の保存と事前チェック ボタンにカーソルを合わせ、バブル内の OpenAPI パラメーターのプレビュー をクリックします。
-
API パラメーターの表示が完了したら、ページ下部の 次:タスク設定の保存と事前チェック をクリックします。
説明-
同期ジョブが開始される前に、DTS は事前チェックを実行します。ジョブは、すべての事前チェック項目が合格した後にのみ開始できます。
-
事前チェックが失敗した場合は、失敗した項目の 詳細を表示 をクリックします。プロンプトに従って問題を修正し、再度事前チェックを実行します。
-
事前チェックで警告が返された場合:
-
チェック項目が失敗し、無視できない場合は、項目の横にある 詳細を表示 をクリックします。指示に従って問題を修正し、再度事前チェックを実行します。
-
無視できるチェック項目については、アラートの詳細を確認、無視、OK、再度事前チェックを実行 を順にクリックして警告をスキップし、事前チェックを再実行できます。警告項目を無視することを選択した場合、データの不整合などの問題が発生し、ビジネスにリスクをもたらす可能性があります。
-
-
-
インスタンスを購入します。
-
成功率 が 100% になったら、次:インスタンスの購入 をクリックします。
-
購入 ページで、データ同期インスタンスの課金方法とリンク仕様を選択します。以下の表でこれらのパラメーターを詳しく説明します。
カテゴリ
パラメーター
説明
新しいインスタンスクラス
課金方法
-
サブスクリプション:インスタンス作成時にお支払いいただきます。長期的なニーズに適しており、従量課金よりもコスト効率が高いです。サブスクリプション期間が長いほど、割引率が高くなります。
-
従量課金:時間単位で課金されます。短期的なニーズに適しています。使用後すぐにインスタンスをリリースしてコストを節約できます。
リソースグループの設定
インスタンスが属するリソースグループ。デフォルトはデフォルトリソースグループです。詳細については、「Resource Management とは」をご参照ください。
リンク仕様
DTS は、異なるパフォーマンスレベルの同期仕様を提供します。同期リンク仕様は同期レートに影響します。ビジネスシナリオに基づいて仕様を選択できます。詳細については、「データ同期リンク仕様」をご参照ください。
サブスクリプション期間
サブスクリプションモードでは、サブスクリプションインスタンスの期間と数量を選択します。1 か月から 9 か月までの月次サブスクリプション、または 1、2、3、5 年の年次サブスクリプションを選択できます。
説明このオプションは、課金方法が サブスクリプション の場合にのみ使用できます。
-
-
設定が完了したら、Data Transmission Service (従量課金) 利用規約 を読んで選択します。
-
購入して起動 をクリックします。OK ダイアログボックスで、[OK] をクリックします。
データ同期ページでタスクの進捗状況を確認できます。
-
よくある質問
-
アプリケーションの書き込みがないのに、なぜタスクのレイテンシーやデータの不整合が発生するのですか?
-
原因:この問題は、MongoDB コレクションの TTL インデックスの自動削除メカニズムと DTS のデータ同期メカニズムの間の競合によって発生します。この競合は、同期/移行タスクでタスクのレイテンシーとデータの不整合を引き起こす可能性があります。
-
冗長な DELETE が効率を低下させる:ソースの TTL インデックスが期限切れのデータを削除すると、Oplog に DELETE レコードを書き込みます。DTS はこの DELETE をターゲットでリプレイします。ターゲットの TTL インデックスが既に同じデータを削除している場合、MongoDB は予期しない影響行数を返し、例外処理をトリガーして移行を遅くします。
-
非同期 TTL 削除によるデータの不整合:TTL インデックスはリアルタイムでデータを削除しません。期限切れのデータがソースにまだ存在する一方で、ターゲットでは既に削除されている可能性があり、不整合を引き起こします。
例:
MongoDB の Oplog または ChangeStream は、UPDATE 操作に対して更新されたフィールドのみを記録し、完全なドキュメントは記録しません。UPDATE がターゲットで対象データを見つけられない場合、DTS はその操作を無視します。
タイミング
ソースインスタンス
ターゲットインスタンス
1
サービスがデータを挿入
2
DTS が INSERT 操作を同期
3
データは期限切れだが、まだ TTL インデックスによって削除されていない
4
サービスがデータを更新 (例:TTL インデックスフィールドを更新して有効期限を変更)
5
TTL インデックスがデータを削除
6
DTS が UPDATE を同期するが、データが見つからない。操作は無視される。
結果として、このドキュメントはターゲットの MongoDB インスタンスに存在しなくなります。
-
-
ソリューション:これを解決するには、同期/移行タスク中にターゲットの TTL インデックスの有効期限を一時的に変更します。これにより、同期効率とデータ整合性の両方が確保されます。詳細な手順については、「MongoDB ソースから TTL インデックスを持つコレクションを同期または移行するためのベストプラクティス」をご参照ください。
-