Data Transmission Service (DTS) は、ApsaraDB RDS for MySQL インスタンスから AnalyticDB for PostgreSQL インスタンスへのデータ同期をサポートしており、ビジネスデータの集中分析を実現します。
サポートされるソースデータベース
以下の MySQL ソースデータベースを AnalyticDB for PostgreSQL インスタンスに同期できます。本トピックでは ApsaraDB RDS for MySQL インスタンスを例として説明します。他のソースデータベースの場合も手順は同様です。
-
ApsaraDB RDS for MySQL インスタンス
-
Elastic Compute Service (ECS) 上でホストされている自己管理データベース
-
Express Connect、VPN Gateway、または Smart Access Gateway 経由で接続された自己管理データベース
-
Database Gateway 経由で接続された自己管理データベース
-
Cloud Enterprise Network (CEN) 経由で接続された自己管理データベース
前提条件
注意事項
スキーマ同期中に、DTS はソースデータベースの外部キーを宛先データベースに同期します。
完全データ同期および増分データ同期中、DTS はセッションレベルで制約チェックおよび外部キーのカスケード操作を一時的に無効化します。タスク実行中にソースデータベースでカスケード更新または削除操作が実行されると、データの不整合が発生する可能性があります。
種別 | 説明 |
ソースデータベースの制限 |
|
その他の制限 |
|
特殊なケース |
|
課金
|
同期タイプ |
料金 |
|
スキーマ同期および完全データ同期 |
無料です。 |
|
増分データ同期 |
課金対象です。詳細については、「課金概要」をご参照ください。 |
サポートされる SQL 操作
-
DML 操作:INSERT、UPDATE、DELETE。
説明宛先の AnalyticDB for PostgreSQL インスタンスにデータを書き込む際、システムは自動的に UPDATE 文を REPLACE INTO 文に変換します。UPDATE 文がプライマリキーを変更する場合は、代わりに DELETE 文と INSERT 文に変換されます。
-
DDL 操作:ALTER TABLE。
用語および概念のマッピング
|
MySQL |
AnalyticDB for PostgreSQL |
|
database |
schema |
|
table |
table |
操作手順
-
宛先リージョンの同期タスクリストページに移動します。以下の 2 つの方法のいずれかを使用できます。
DTS コンソールから
-
左側のナビゲーションウィンドウで、データ同期 をクリックします。
-
ページ左上隅で、同期インスタンスが配置されているリージョンを選択します。
DMS コンソールから
説明実際の操作は、DMS コンソールのモードおよびレイアウトによって異なる場合があります。詳細については、「シンプルモード」および「DMS インターフェイスのレイアウトとスタイルのカスタマイズ」をご参照ください。
-
Data Management (DMS) にログインします。
-
上部のメニューバーで、 を選択します。
-
データ同期タスク の右側で、同期インスタンスが配置されているリージョンを選択します。
-
タスクの作成 をクリックして、タスク設定ページを開きます。
-
ソースおよび宛先データベースを設定します。
カテゴリ
パラメーター
説明
該当なし
タスク名
DTS が自動的にタスク名を生成します。識別しやすいように、わかりやすい名前を指定することを推奨します。名前は一意である必要はありません。
ソースデータベース
データベースタイプ
MySQL を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
ソースの ApsaraDB RDS for MySQL インスタンスのリージョンを選択します。
Alibaba Cloudアカウント全体でのデータの複製
このシナリオでは、同じ Alibaba Cloud アカウント内でデータを同期します。× を選択します。
RDS インスタンス ID
ソースの ApsaraDB RDS for MySQL インスタンスの ID を選択します。
説明ソースおよび宛先の RDS MySQL インスタンスは、異なるものでも同じものでもかまいません。つまり、DTS を使用して 2 つの RDS MySQL インスタンス間、または同じ RDS MySQL インスタンス内でデータを同期できます。
データベースアカウント
ソースの ApsaraDB RDS for MySQL インスタンスのデータベースアカウントを入力します。このアカウントには REPLICATION CLIENT、REPLICATION SLAVE、SHOW VIEW、SELECT 権限が必要です。
データベースパスワード
データベースアカウントに対応するパスワードを入力します。
暗号化
必要に応じて、非暗号化 または SSL 暗号化 を選択します。SSL 暗号化 を選択する場合は、事前に RDS for MySQL インスタンスで SSL 暗号化を有効化しておく必要があります。詳細については、「クラウド証明書を使用した SSL 暗号化の迅速な有効化」をご参照ください。
宛先データベース
データベースタイプ
AnalyticDB for PostgreSQL を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
宛先の AnalyticDB for PostgreSQL インスタンスのリージョンを選択します。
インスタンス ID
宛先の AnalyticDB for PostgreSQL インスタンスの ID を選択します。
データベース名
宛先の AnalyticDB for PostgreSQL インスタンス内の同期オブジェクトのデータベース名を入力します。
データベースアカウント
宛先の AnalyticDB for PostgreSQL インスタンスの初期アカウントを入力します。
説明RDS_SUPERUSER 権限を持つアカウントを入力することもできます。このようなアカウントの作成方法については、「ユーザー権限管理」をご参照ください。
データベースパスワード
データベースアカウントに対応するパスワードを入力します。
-
設定を完了したら、ページ下部の 接続をテストして続行 をクリックします。
説明-
DTS サーバーの IP アドレス CIDR ブロックが、ソースおよび宛先データベースのセキュリティ設定に追加され、DTS サーバーからのアクセスが許可されていることを確認してください。これは自動的または手動で行えます。詳細については、「DTS サーバーの IP アドレス CIDR ブロックをホワイトリストに追加する」をご参照ください。
-
ソースまたは宛先データベースが自己管理データベース(アクセス方法 が Alibaba Cloud インスタンス ではない)の場合、DTS サーバーの CIDR ブロック ダイアログボックスで 接続テスト をクリックする必要があります。
-
-
タスクオブジェクトを設定します。
-
オブジェクト設定 ページで、同期するオブジェクトを設定します。
パラメーター
説明
同期タイプ
増分データ同期 が選択されています。デフォルトでは、スキーマ同期 および 完全データ同期 も選択する必要があります。事前チェックが完了すると、DTS は選択されたオブジェクトの完全データ同期をソースインスタンスから宛先クラスターに実行します。これは、その後の増分データ同期のベースラインデータとなります。
競合テーブルの処理モード
-
エラーの事前チェックと報告:宛先データベースに同じ名前のテーブルが存在するかどうかをチェックします。同じ名前のテーブルが存在しない場合、事前チェックは成功します。同じ名前のテーブルが存在する場合、事前チェックは失敗し、データ同期タスクは開始されません。
説明宛先データベースで同じ名前のテーブルを削除または名前変更できない場合は、別のテーブル名にマッピングできます。詳細については、「テーブル名および列名のマッピング」をご参照ください。
-
エラーを無視して続行:宛先データベースでの重複テーブル名のチェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスにリスクが及ぶ可能性があります。例:
-
テーブルスキーマが同一で、宛先データベースのレコードがソースデータベースのレコードと同じプライマリキーまたは一意キー値を持つ場合:
-
完全同期中は、DTS は宛先クラスター内のレコードを保持します。ソースデータベースの対応するレコードは同期されません。
-
増分同期中は、ソースデータベースのレコードが宛先データベースのレコードを上書きします。
-
-
テーブルスキーマが異なる場合、初期データ同期が失敗する可能性があります。これにより、一部の列データのみが同期されるか、完全な同期失敗が発生する可能性があります。慎重に進めてください。
-
DDL操作とDML操作の同期
インスタンスレベルで同期する DDL または DML 操作を選択します。サポートされる操作については、「サポートされる SQL 操作」をご参照ください。
説明データベースまたはテーブルごとに同期する SQL 操作を選択するには、選択中のオブジェクト ボックス内の同期オブジェクトを右クリックします。表示されるダイアログボックスで、SQL 操作を選択してください。
競合するテーブルの処理モード
-
エラーの事前チェックと報告:宛先データベースに同じ名前のテーブルが存在するかどうかをチェックします。同じ名前のテーブルが存在しない場合、事前チェックは成功します。同じ名前のテーブルが存在する場合、事前チェックは失敗し、データ同期タスクは開始されません。
説明宛先データベースで同じ名前のテーブルを削除または名前変更できない場合は、別のテーブル名にマッピングできます。詳細については、「テーブル名および列名のマッピング」をご参照ください。
-
エラーを無視して続行:宛先データベースでの重複テーブル名のチェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスにリスクが及ぶ可能性があります。例:
-
テーブルスキーマが同一で、宛先データベースのレコードがソースデータベースのレコードと同じプライマリキーまたは一意キー値を持つ場合:
-
完全同期中は、DTS は宛先クラスター内のレコードを保持します。ソースデータベースの対応するレコードは同期されません。
-
増分同期中は、ソースデータベースのレコードが宛先データベースのレコードを上書きします。
-
-
テーブルスキーマが異なる場合、初期データ同期が失敗する可能性があります。これにより、一部の列データのみが同期されるか、完全な同期失敗が発生する可能性があります。慎重に進めてください。
-
ストレージエンジンタイプ
宛先テーブルのストレージエンジンタイプを選択します。デフォルト値は Beam です。
説明このパラメーターは、宛先の AnalyticDB for PostgreSQL インスタンスのカーネルバージョンが v7.0.6.6 以降であり、かつ 同期タイプ で スキーマ同期 が選択されている場合にのみ利用可能です。
ソースオブジェクト
ソースオブジェクト ボックスで、同期するオブジェクトをクリックし、
をクリックして 選択中のオブジェクト ボックスに移動させます。説明同期オブジェクトとしてテーブルを選択できます。
選択中のオブジェクト
-
宛先インスタンスで単一の同期オブジェクトの名前を変更するには、選択中のオブジェクト ボックス内のオブジェクトを右クリックします。オブジェクトの名前変更方法については、「単一のデータベース、テーブル、または列のマッピング」をご参照ください。
-
宛先インスタンスで複数の同期オブジェクトの名前を一括で変更するには、選択中のオブジェクト ボックスの右上隅にある 一括編集 をクリックします。詳細については、「データベース、テーブル、および列の一括マッピング」をご参照ください。
説明-
オブジェクト名マッピング機能を使用する場合、名前変更されたオブジェクトに依存する他のオブジェクトの同期が失敗する可能性があります。
-
WHERE 句を使用してデータをフィルターするには、選択中のオブジェクト セクションで同期するテーブルを右クリックし、ダイアログボックスでフィルター条件を設定します。詳細については、「フィルター条件の設定」をご参照ください。
-
データベースまたはテーブルレベルで SQL 操作を選択するには、選択中のオブジェクト セクションで同期オブジェクトを右クリックし、ポップアップダイアログボックスで目的の SQL 操作を選択します。
-
-
詳細設定へ をクリックして、高度なパラメーターを設定します。
パラメーター
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、DTS は共有クラスター上でタスクをスケジューリングするため、クラスターを選択する必要はありません。より安定したパフォーマンスを求める場合は、DTS 同期タスクを実行するための専用クラスターを購入できます。詳細については、「DTS 専用クラスターとは」をご参照ください。
失敗した接続の再試行時間
同期タスク開始後、ソースまたは宛先データベースへの接続が失敗した場合、DTS はエラーを報告し、直ちに接続の再試行を開始します。デフォルトの再試行時間は 720 分です。10 ~ 1,440 分の範囲でカスタム再試行時間を指定することもできます。30 分以上に設定することを推奨します。指定された時間内に DTS がデータベースへの再接続に成功した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。
説明-
同じソースまたは宛先を共有する複数の DTS インスタンス(例:インスタンス A とインスタンス B)があり、インスタンス A のネットワーク再試行時間を 30 分、インスタンス B を 60 分に設定した場合、両方のインスタンスで短い方の 30 分が使用されます。
-
DTS は接続再試行期間中のタスクランタイムに対して課金するため、ビジネス要件に基づいて再試行時間をカスタマイズするか、ソースおよび宛先データベースインスタンスをリリースした後は速やかに DTS インスタンスをリリースすることを推奨します。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
同期タスク開始後、ソースまたは宛先データベースで接続以外の問題(DDL または DML 実行例外など)が発生した場合、DTS はエラーを報告し、直ちに継続的な再試行操作を開始します。デフォルトの再試行時間は 10 分です。1 ~ 1,440 分の範囲で再試行時間をカスタマイズすることもできます。10 分以上に設定することを推奨します。設定された再試行時間内に関連操作が成功した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値より小さくする必要があります。
完全同期レートを制限するかどうか
完全同期ステージ中、DTS はソースおよび宛先データベースの読み取りおよび書き込みリソースを消費し、データベース負荷が増加する可能性があります。ソースおよび宛先データベースの負荷を軽減するために、1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS パラメーターを設定して、完全同期タスクのレート制限を設定できます。
説明-
この設定項目は、同期タイプ が 完全データ同期 に設定されている場合にのみ利用可能です。
-
同期インスタンスの実行後にも、完全同期レートを調整 できます。
増分同期率を制限するかどうか
増分同期タスクのレート制限を設定することもできます。宛先データベースの負荷を軽減するために、1 秒あたりの増分同期の行数 RPS および 1 秒あたりの増分同期データ量 (MB) BPS を設定してください。
環境タグ
インスタンスを識別するために環境タグを選択します。このパラメーターは省略可能です。
ETL 機能の設定
抽出・変換・書き出し (ETL) 機能を有効にするかどうかを選択します。詳細については、「ETL とは」をご参照ください。有効値:
-
○:ETL 機能を有効化します。コードエディタにデータ処理文を入力します。詳細については、「データ移行またはデータ同期タスクでの ETL の設定」をご参照ください。
-
×:ETL 機能を無効化します。
監視アラート
アラートを設定するかどうかを指定します。同期が失敗した場合や遅延が指定されたしきい値を超えた場合、アラート連絡先に通知が送信されます。
-
×:アラートは設定されません。
-
○:アラートのしきい値を設定し、アラート通知を指定してアラートを設定します。詳細については、「タスク設定時のモニタリングとアラートの設定」をご参照ください。
-
-
次へ:データ検証 をクリックして、データ検証タスクを設定します。
データ検証機能を使用する場合は、「データ検証の設定」を参照して設定手順を確認してください。
-
設定を完了したら、ページ下部の 次:データベースおよびテーブルのフィールド設定 をクリックして、宛先の AnalyticDB for PostgreSQL で同期するテーブルのプライマリキー列および分布列を設定します。
-
-
タスクを保存し、事前チェックを実行します。
-
このインスタンスを設定するための API パラメーターを表示するには、次:タスク設定の保存と事前チェック ボタンにカーソルを合わせ、バルーン内の OpenAPI パラメーターのプレビュー をクリックします。
-
API パラメーターの確認が完了したら、ページ下部の 次:タスク設定の保存と事前チェック をクリックします。
説明-
同期ジョブ開始前に、DTS は事前チェックを実行します。すべての事前チェック項目が合格した後にのみ、ジョブを開始できます。
-
事前チェックが失敗した場合は、失敗した項目の横にある 詳細を表示 をクリックします。指示に従って問題を修正し、再度事前チェックを実行してください。
-
事前チェックで警告が返された場合:
-
チェック項目が失敗し、無視できない場合は、項目の横にある 詳細を表示 をクリックします。指示に従って問題を修正し、再度事前チェックを実行してください。
-
無視可能なチェック項目については、アラートの詳細を確認、無視、OK、および 再度事前チェックを実行 を順にクリックして、警告をスキップし、事前チェックを再実行します。警告項目を非表示にすると、データの不整合などの問題が発生し、ビジネスにリスクが及ぶ可能性があります。
-
-
-
インスタンスを購入します。
-
成功率 が 100% になったら、次:インスタンスの購入 をクリックします。
-
購入 ページで、データ同期インスタンスの課金方法およびリンク仕様を選択します。以下の表に、これらのパラメーターの詳細を示します。
カテゴリ
パラメーター
説明
新しいインスタンスクラス
課金方法
-
サブスクリプション:インスタンス作成時に支払いを行います。長期的なニーズに適しており、従量課金よりもコスト効率が高くなります。サブスクリプション期間が長いほど、割引率が高くなります。
-
従量課金:1 時間単位で課金されます。短期的なニーズに適しています。使用後すぐにインスタンスをリリースすることでコストを節約できます。
リソースグループ構成
インスタンスが属するリソースグループです。デフォルトはデフォルトリソースグループです。詳細については、「Resource Management とは」をご参照ください。
リンク仕様
DTS は、さまざまなパフォーマンスレベルを持つ同期仕様を提供しています。同期リンク仕様は同期レートに影響します。ビジネスシナリオに基づいて仕様を選択できます。詳細については、「データ同期リンク仕様」をご参照ください。
サブスクリプション期間
サブスクリプションモードでは、サブスクリプションインスタンスの期間および数量を選択します。1 ~ 9 ヶ月の月単位サブスクリプション、または 1、2、3、5 年の年単位サブスクリプションを選択できます。
説明このオプションは、課金方法が サブスクリプション の場合にのみ利用可能です。
-
-
設定を完了したら、Data Transmission Service (従量課金) 利用規約 を読み、選択します。
-
購入して起動 をクリックします。OK ダイアログボックスで、OK をクリックします。
データ同期ページでタスクの進行状況を確認できます。
-