Data Transmission Service:MongoDB から AnalyticDB for MySQL V3.0 への移行

前提条件

• ソースが ApsaraDB for MongoDB シャードクラスターの場合は、各シャードのエンドポイントを申請します。すべてのシャードのユーザー名とパスワードは同一である必要があります。詳細については、「シャードエンドポイントの申請」をご参照ください。

• ターゲットの AnalyticDB for MySQL 3.0 クラスターがあり、そのストレージ容量がソースの ApsaraDB for MongoDB インスタンスの使用済みストレージ容量よりも大きい必要があります。詳細については、「クラスターの作成」をご参照ください。

  説明

  ターゲットインスタンスのストレージ容量は、ソースインスタンスの使用済みストレージ容量より少なくとも 10% 大きくする必要があります。

• ターゲットの AnalyticDB for MySQL 3.0 クラスターに、データベースとプライマリキーを持つテーブルを作成しておく必要があります。詳細については、「CREATE DATABASE」および「CREATE TABLE」をご参照ください。

  重要

  • ターゲットテーブルのデータ型は、ソース MongoDB インスタンスのデータと互換性がある必要があります。たとえば、MongoDB の _id フィールドが ObjectId 型の場合、AnalyticDB for MySQL 3.0 クラスターの対応するデータ型は varchar である必要があります。

  • AnalyticDB for MySQL 3.0 クラスターでは、ターゲットテーブルの列に _id または _value という名前を付けないでください。

• ターゲットの AnalyticDB for MySQL 3.0 クラスターで SET ADB_CONFIG ALLOW_MULTI_QUERIES=true; コマンドを実行して、マルチステートメント機能を有効にします。

  説明

  マルチステートメント機能は、マイナーバージョン 3.1.9.3 以降のクラスターでのみサポートされます。マイナーバージョンを表示およびアップグレードするには、「マイナーバージョンのアップグレード」をご参照ください。

注意事項

課金

移行タイプ

データベースアカウントの権限

操作手順

1. 次のいずれかの方法で、ターゲットリージョンの移行タスクリストページに移動します。

   DTS コンソールから

   1. Data Transmission Service (DTS) コンソールにログインします。

   2. 左側のナビゲーションウィンドウで、データの移行 をクリックします。

   3. ページの左上隅で、移行インスタンスが配置されているリージョンを選択します。

   DMS コンソールから

   説明

   実際の操作は、DMS コンソールのモードとレイアウトによって異なる場合があります。詳細については、「シンプルモードコンソール」および「DMS コンソールのレイアウトとスタイルをカスタマイズする」をご参照ください。

   1. Data Management (DMS) コンソールにログインします。

   2. 上部のメニューバーで、[Data + AI] > [Data Transmission (DTS)] > [データ移行] を選択します。

   3. データ移行タスク の右側で、移行インスタンスが配置されているリージョンを選択します。

2. タスクの作成 をクリックして、タスク設定ページに移動します。

3. ソースデータベースとターゲットデータベースを設定します。

   カテゴリ	パラメーター	説明
   N/A	タスク名	DTS は自動的にタスク名を生成します。簡単に識別できるように、わかりやすい名前を指定することを推奨します。名前は一意である必要はありません。
   移行元データベース	既存の接続情報の選択	システムに追加された (作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストから目的のデータベースインスタンスを選択します。以下のデータベース情報が自動的に設定されます。 説明 DMS コンソールでは、このパラメーターは DMS データベースインスタンスの選択 という名前です。 データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
   	データベースタイプ	MongoDB を選択します。
   	アクセス方法	Alibaba Cloud インスタンス を選択します。
   	インスタンスのリージョン	ソース ApsaraDB for MongoDB インスタンスのリージョンを選択します。
   	Alibaba Cloud アカウント間でデータを複製	この例では、現在の Alibaba Cloud アカウント配下のデータベースインスタンスを使用します。× を選択します。
   	アーキテクチャ	この例では レプリカセット を選択します。 説明 ソースの ApsaraDB for MongoDB インスタンスが シャードクラスター を使用している場合は、Shardアカウント と Shardパスワード も指定する必要があります。
   	移行方法	要件に基づいて増分データ移行の方法を選択します。 Oplog (推奨)： このオプションは、ソースデータベースで oplog が有効になっている場合に使用できます。 説明 oplog は、自主管理 MongoDB データベースと ApsaraDB for MongoDB インスタンスの両方でデフォルトで有効になっています。この方法では、ログのプルが高速なため、増分データ移行の遅延が低くなります。したがって、Oplog を選択することを推奨します。 ChangeStream：このオプションは、ソースデータベースで チェンジストリームが有効になっている場合に使用できます。 説明 ソースデータベースが Amazon DocumentDB インスタンス (非エラスティッククラスター) の場合、ChangeStream のみを選択できます。 ソースデータベースの アーキテクチャ を シャードクラスター に設定した場合、Shardアカウント や Shardパスワード を入力する必要はありません。
   	インスタンス ID	ソース ApsaraDB for MongoDB インスタンスのインスタンス ID を選択します。
   	認証データベース	ソース ApsaraDB for MongoDB インスタンスのデータベースアカウントが属するデータベースの名前を入力します。変更されていない場合のデフォルト値は admin です。
   	データベースアカウント	ソース ApsaraDB for MongoDB インスタンスのデータベースアカウントを入力します。必要な権限については、「データベースアカウントに必要な権限」をご参照ください。
   	データベースのパスワード	データベースアカウントに対応するパスワードを入力します。
   	暗号化	DTS は、非暗号化、SSL 暗号化、Mongo Atlas SSL の 3 つの接続方法をサポートしています。暗号化 のオプションは、選択した アクセス方法 と アーキテクチャ によって異なります。コンソールに表示されるオプションが優先されます。 説明 アーキテクチャ が シャードクラスター で、移行方法 が Oplog の MongoDB データベースは、SSL 暗号化 をサポートしていません。 ソースが レプリカセット アーキテクチャの自主管理 MongoDB データベース（アクセス方法 が Alibaba Cloud インスタンス ではない）で、SSL 暗号化 を選択した場合、DTS では CA 証明書をアップロードして接続を検証することもできます。
   移行先データベース	既存の接続情報の選択	システムに追加された (作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストから目的のデータベースインスタンスを選択します。以下のデータベース情報が自動的に設定されます。 説明 DMS コンソールでは、このパラメーターは DMS データベースインスタンスの選択 という名前です。 データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
   	データベースタイプ	AnalyticDB for MySQL 3.0 を選択します。
   	アクセス方法	Alibaba Cloud インスタンス を選択します。
   	インスタンスのリージョン	ターゲットの AnalyticDB for MySQL 3.0 クラスターのリージョンを選択します。
   	インスタンス ID	ターゲットの AnalyticDB for MySQL 3.0 クラスターの ID を選択します。
   	データベースアカウント	ターゲットの AnalyticDB for MySQL 3.0 クラスターのデータベースアカウントを入力します。必要な権限については、「データベースアカウントに必要な権限」をご参照ください。
   	データベースのパスワード	データベースアカウントに対応するパスワードを入力します。

4. 設定が完了したら、ページ下部の 接続をテストして続行 をクリックします。

   説明

   • DTS サーバーからのアクセスを許可するために、DTS サービスの IP アドレスセグメントがソースデータベースとターゲットデータベースのセキュリティ設定に自動または手動で追加されていることを確認してください。詳細については、「DTS サーバーの IP アドレスをホワイトリストに追加する」をご参照ください。

   • ソースまたはターゲットデータベースが自主管理データベース (アクセス方法 が Alibaba Cloud インスタンス ではない) の場合、表示される DTS サーバーの CIDR ブロック ダイアログボックスで 接続テスト をクリックする必要もあります。

5. タスクオブジェクトを設定します。

   1. オブジェクト設定 ページで、移行するオブジェクトを設定します。

      パラメーター	説明
      移行タイプ	完全移行のみを実行する必要がある場合は、完全データ移行 を選択します。 ダウンタイムなしで移行を実行するには、完全データ移行 と 増分データ移行 の両方を選択します。 説明 増分データ移行 を選択しない場合は、データ整合性を確保するために、データ移行中にソースインスタンスに新しいデータを書き込まないでください。
      同期する DDL および DML 操作	増分移行中にインスタンスレベルで移行する操作を選択します。 説明 コレクションレベルで増分操作を選択するには、選択中のオブジェクト セクションで移行オブジェクトを右クリックし、表示されるダイアログボックスで目的の操作を選択します。
      テーブルの結合	○ を選択すると、DTS は各テーブルに __dts_data_source 列を追加してデータソースを記録します。詳細については、「複数テーブルのマージを有効にする」をご参照ください。 × を選択した場合、これがデフォルトのオプションです。 説明 テーブルマージ機能は、テーブルレベルではなくタスクレベルで設定されます。一部のテーブルをマージし、他のテーブルをマージしない場合は、2 つの個別のデータ移行タスクを作成する必要があります。 警告 ソースデータベースまたはテーブルのスキーマを変更する DDL 操作を実行しないでください。そうしないと、データの不整合やタスクの失敗が発生する可能性があります。
      競合するテーブルの処理モード	エラーの事前チェックと報告：ターゲットデータベースに同じ名前のコレクションが存在するかどうかを確認します。同じ名前のコレクションが存在しない場合、事前チェックは合格します。同じ名前のコレクションが存在する場合、事前チェック中にエラーが報告され、データ移行タスクは開始されません。 説明 ターゲットデータベースのコレクションが同じ名前で、簡単に削除または名前変更できない場合は、ターゲットデータベースのコレクションの名前を変更できます。詳細については、「オブジェクト名のマッピング」をご参照ください。 エラーを無視して続行：同じ名前のコレクションのチェックをスキップします。 警告 エラーを無視して続行 を選択すると、データの不整合やビジネスリスクが発生する可能性があります。例： ターゲットデータベースのレコードがソースデータベースのレコードと同じプライマリキー値を持つ場合、ターゲットデータベースのレコードが保持されます。ソースデータベースのレコードはターゲットデータベースに移行されません。 データ初期化が失敗したり、一部のデータのみが移行されたり、移行が失敗したりする可能性があります。
      ソースオブジェクト	ソースオブジェクト ボックスで、移行するオブジェクトをクリックし、 をクリックして 選択中のオブジェクト ボックスに移動します。 説明 移行オブジェクトはコレクションレベルで選択できます。
      選択中のオブジェクト	データベース名のマッピングを編集します。 選択中のオブジェクト ボックスで、移行するコレクションを含むデータベースを右クリックします。 スキーマ名 を AnalyticDB for MySQL 3.0 クラスターのターゲットデータベースの名前に変更します。表示される [スキーマの編集] ダイアログボックスで、[スキーマ名] を変更します (例：dtsdb)。 オプション：同期する DDL および DML 操作を選択 セクションで、insert、update、delete などの移行する DML 操作を選択します。 確かですか をクリックします。 テーブル名のマッピングを編集します。 選択中のオブジェクト ボックスで、移行するコレクションを右クリックします。 [選択したオブジェクト] パネルには、データベース内のオブジェクト (dtsdb など) のツリー構造が表示され、オブジェクトタイプ (テーブルなど) と特定のオブジェクト (class など) が含まれます。 テーブル名 を AnalyticDB for MySQL 3.0 クラスターのターゲットテーブルの名前に変更します。表示される [テーブルの編集] ページで、[テーブル名] を変更できます (この例では class)。テーブル名または列名を編集すると、ターゲットデータベースの名前がそれに応じて変更されます。 オプション：完全移行のフィルター条件を設定します。詳細については、「フィルター条件の設定」をご参照ください。ApsaraDB for MongoDB の場合、フィルター条件でサポートされる構文は標準の SQL WHERE 句とは異なります。たとえば、ユーザー ID でフィルタリングするには、次の条件を入力します：{"_id": {$gt:"user100844658590795****",$lte:"user101674868045948****"}}。ここで、$gt はより大きいことを意味し、$lte は以下を意味します。 オプション：同期する DDL および DML 操作を選択 セクションで、insert、update、delete などの移行する DML 操作を選択します。 移行する MongoDB フィールドを設定します。 デフォルトでは、DTS は移行するコレクションのデータをマッピングし、代入 列に式を設定します。式が要件を満たしているかどうかを確認し、列名、タイプ、長さ、精度 などのパラメーターを設定する必要があります。 重要 ターゲットテーブルのプライマリキー列には、値 bson_value("_id") を割り当てる必要があります。 bson_value() 式を設定する際は、最下位のサブフィールドまでの階層を指定する必要があります。そうしないと、データ損失やタスクの失敗が発生する可能性があります。 代入 列で、bson_value() 式の MongoDB フィールド名を表示します。 引用符 ("") 内のコンテンツは、MongoDB のフィールド名です。たとえば、式が bson_value("age") の場合、この行は MongoDB の age フィールドに対応します。 オプション：移行する必要のないフィールドを削除します。 説明 移行する必要のないフィールドを削除するには、そのフィールドの行にある アイコンをクリックします。 移行するフィールドを設定します。 bson_value() 式が要件を満たしているかどうかに基づいて、後続の操作を実行します。 一致する式 列名 を入力します。 説明 AnalyticDB for MySQL 3.0 クラスターでデータを受信するターゲットテーブルの列の名前を入力します。 列のデータ タイプ を選択します。 重要 ターゲットテーブルのデータ型がソース MongoDB データと互換性があることを確認してください。データ型マッピングについては、「データ型マッピング」をご参照ください。 オプション：列データの 長さ と 精度 を設定します。 これらの手順を繰り返して、関連するすべてのフィールドをマッピングします。 一致しない式 説明 例として、階層 (親子) 構造を持つフィールドがあります。 操作 列で、フィールドの行にある アイコンをクリックします。 [+ 列を追加] をクリックします。 列名、タイプ、長さ、および精度を設定します。 代入 の下のテキストボックスに、bson_value() 式を入力します。詳細については、「割り当て設定の例」をご参照ください。 これらの手順を繰り返して、関連するすべてのフィールドをマッピングします。 確かですか をクリックします。

   2. 詳細設定へ をクリックして、詳細パラメーターを設定します。

      パラメーター	説明
      タスクのスケジュールに使用する専用クラスターの選択	デフォルトでは、DTS は共有クラスター上でタスクをスケジュールします。選択する必要はありません。より安定したタスクが必要な場合は、専用クラスターを購入して DTS 移行タスクを実行できます。
      失敗した接続の再試行時間	移行タスクの開始後、ソースまたはターゲットデータベースへの接続が失敗した場合、DTS はエラーを報告し、直ちに接続の再試行を開始します。デフォルトの再試行時間は 720 分です。再試行時間は 10 分から 1440 分の間でカスタマイズできます。30 分以上に設定することを推奨します。指定された時間内に DTS がソースおよびターゲットデータベースに再接続した場合、移行タスクは自動的に再開されます。そうでない場合、タスクは失敗します。 説明 同じソースまたはターゲットを共有する複数の DTS インスタンスの場合、ネットワークの再試行時間は最後に作成されたタスクの設定によって決まります。 接続再試行期間中もタスクは課金されるため、ビジネスニーズに基づいて再試行時間をカスタマイズするか、ソースおよびターゲットデータベースインスタンスがリリースされた後、できるだけ早く DTS インスタンスをリリースすることを推奨します。
      移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。	移行タスクの開始後、DDL または DML の実行例外など、接続以外の問題がソースまたはターゲットデータベースで発生した場合、DTS はエラーを報告し、直ちに操作の再試行を開始します。デフォルトの再試行時間は 10 分です。再試行時間は 1 分から 1440 分の間でカスタマイズできます。10 分以上に設定することを推奨します。指定された再試行時間内に関連する操作が成功した場合、移行タスクは自動的に再開されます。そうでない場合、タスクは失敗します。 重要 移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値より小さくする必要があります。
      完全移行率を制限するかどうか	完全移行中、DTS はソースおよびターゲットデータベースの読み取りおよび書き込みリソースを消費し、データベースの負荷が増加する可能性があります。必要に応じて、完全移行タスクの速度制限を有効にできます。1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS を設定して、ターゲットデータベースの負荷を軽減できます。 説明 この設定項目は、移行タイプ で 完全データ移行 を選択した場合にのみ使用できます。 移行インスタンスの実行後に 完全移行速度を調整することもできます。
      同期するデータのうち、同一テーブル内のプライマリキー_id のデータ型が一意かどうか	移行するデータにおいて、単一のコレクション内でプライマリキー _id のデータ型は統一されていますか？ 重要 要件に基づいてオプションを選択してください。そうしないと、データ損失が発生する可能性があります。 このパラメーターは、移行タイプ に 完全データ移行 を選択した場合にのみ利用可能です。 ○：データ型は一意です。完全データ移行中、DTS はソースデータのプライマリキーのデータ型をスキャンしません。単一のコレクションに対して、DTS は 1 つのプライマリキーデータ型に対応するデータのみを移行します。 ×：データ型は一意ではありません。完全データ移行中、DTS はソースデータのプライマリキーのデータ型をスキャンし、すべてのデータを移行します。
      増分移行率を制限するかどうか	必要に応じて、増分移行タスクの速度制限を設定することもできます。1 秒あたりの増分移行の行数 RPS と 1 秒あたりの増分移行データ量 (MB) BPS を設定して、ターゲットデータベースの負荷を軽減できます。 説明 この設定項目は、移行タイプ で 増分データ移行 を選択した場合にのみ使用できます。 移行インスタンスの実行後に 増分移行速度を調整することもできます。
      環境タグ	インスタンスを識別するために環境タグを選択できます。この例では必須ではありません。
      ETL 機能の設定	抽出、変換、ロード (ETL) 機能を有効にするかどうかを選択します。詳細については、「ETL とは何か？」をご参照ください。有効な値： ○：ETL 機能を有効にします。コードエディタにデータ処理文を入力します。詳細については、「データ移行またはデータ同期タスクで ETL を設定する」をご参照ください。 ×：ETL 機能を無効にします。
      監視アラート	ビジネスニーズに基づいて、アラートを設定し、アラート通知を受信するかどうかを選択します。 ×：アラートを設定しません。 ○：アラートのしきい値とアラート通知を設定してアラートを設定します。移行が失敗した場合や遅延がしきい値を超えた場合、システムはアラート通知を送信します。

6. タスクを保存して事前チェックを実行します。

   • API オペレーションを呼び出す際にこのインスタンスを設定するためのパラメーターを表示するには、次：タスク設定の保存と事前チェック ボタンにポインターを合わせ、表示されるバブル内の OpenAPI パラメーターのプレビュー をクリックします。

   • API パラメーターを表示する必要がない場合、または表示が完了した場合は、ページ下部の 次：タスク設定の保存と事前チェック をクリックします。

   説明

   • 移行タスクが開始される前に、DTS は事前チェックを実行します。タスクは事前チェックに合格した後にのみ開始されます。

   • 事前チェックが失敗した場合は、失敗した確認項目の横にある 詳細を表示 をクリックし、プロンプトに基づいて問題を修正してから、再度事前チェックを実行します。

   • 事前チェック中に警告が報告された場合：

     • 無視できない確認項目については、失敗した項目の横にある 詳細を表示 をクリックし、プロンプトに基づいて問題を修正してから、再度事前チェックを実行します。

     • 無視できる確認項目については、アラートの詳細を確認、無視、OK、再度事前チェックを実行 の順にクリックして、アラート項目をスキップし、再度事前チェックを実行できます。警告を無視することを選択した場合、データの不整合などの問題が発生し、ビジネスにリスクをもたらす可能性があります。

7. インスタンスを購入します。

   1. 成功率 が 100% になったら、次：インスタンスの購入 をクリックします。

   2. 購入 ページで、データ移行インスタンスのリンク仕様を選択します。詳細については、次の表をご参照ください。

      カテゴリ	パラメーター	説明
      新しいインスタンスクラス	リソースグループの設定	インスタンスが属するリソースグループを選択します。デフォルト値はデフォルトリソースグループです。詳細については、「Resource Management とは」をご参照ください。
      	インスタンスクラス	DTS は、異なるパフォーマンスレベルの移行仕様を提供します。リンク仕様は移行速度に影響します。ビジネスシナリオに基づいて仕様を選択できます。詳細については、「データ移行リンクの仕様」をご参照ください。

   3. 設定が完了したら、Data Transmission Service (従量課金) 利用規約 を読み、選択します。

   4. 購入して起動 をクリックします。表示される OK ダイアログボックスで、[OK] をクリックします。

      データ移行タスク リストページで移行タスクの進捗状況を確認できます。

      説明

      • 移行タスクに増分移行が含まれていない場合、完全移行が完了すると自動的に停止します。タスクが停止すると、その ステータス は 完了 に変わります。

      • 移行タスクに増分移行が含まれている場合、自動的には停止しません。増分移行タスクは実行を続けます。増分移行タスクの実行中、タスクの ステータス は 実行中 です。

データ型マッピング

マッピング設定

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":26,
    "sex":"male"
  }
}