Data Transmission Service (DTS) は、自己管理 MySQL データベースや RDS for MySQL インスタンスなどの MySQL データベースから ApsaraMQ for RocketMQ インスタンスへのデータ同期をサポートしています。このトピックでは、RDS for MySQL インスタンスから ApsaraMQ for RocketMQ インスタンスにデータを同期する方法について説明します。
前提条件
Serverless インスタンスではない宛先 ApsaraMQ for RocketMQ インスタンスを作成済みであること。詳細については、「インスタンスの管理」または「インスタンスの管理」をご参照ください。
説明ソースデータベースとターゲットデータベースでサポートされているバージョンの詳細については、「同期ソリューション」をご参照ください。
同期データを受信するために、宛先 ApsaraMQ for RocketMQ インスタンスに Topic を作成済みであること。詳細については、「Topic の管理」または「Topic の管理」をご参照ください。
重要4.x バージョンの場合、Topic の [メッセージタイプ] は [パーティション順序指定メッセージ] である必要があります。
5.x バージョンの場合、Topic の [メッセージタイプ] は [順序指定メッセージ] である必要があります。
注意事項
タイプ | 説明 |
ソースデータベースの制限 |
|
その他の制限 |
|
特殊なケース |
|
課金
同期タイプ | リンク構成料金 |
完全データ同期 | 無料です。 |
増分データ同期 | 課金されます。詳細については、「課金の概要」をご参照ください。 |
同期可能な SQL 操作
操作タイプ | SQL 文 |
DML | INSERT、UPDATE、DELETE |
DDL |
|
データベースアカウントに必要な権限
データベース | 必要な権限 | 作成方法と権限付与方法 |
ソース RDS for MySQL インスタンス | 同期するオブジェクトに対する読み取り権限。 | 「アカウントの作成」および「アカウントの権限の変更」をご参照ください。 |
RDS for MySQL コンソールでソースデータベースアカウントを作成して権限を付与しなかった場合は、アカウントに REPLICATION CLIENT、REPLICATION SLAVE、SHOW VIEW、SELECT 権限があることを確認してください。
手順
次のいずれかの方法でデータ同期ページに移動し、データ同期インスタンスが存在するリージョンを選択します。
DTS コンソール
DTS コンソールにログインします。
左側のナビゲーションウィンドウで、データ同期 をクリックします。
ページの左上隅で、データ同期タスクが存在するリージョンを選択します。
DMS コンソール
説明実際の操作は、DMS コンソールのモードとレイアウトによって異なる場合があります。詳細については、「シンプルモード」および「DMS コンソールのレイアウトとスタイルをカスタマイズする」をご参照ください。
DMS コンソールにログインします。
上部のナビゲーションバーで、[データ + AI] にポインターを合わせ、 を選択します。
データ同期タスク の右側にあるドロップダウンリストから、データ同期インスタンスが存在するリージョンを選択します。
タスクの作成 をクリックして、タスク構成ページに移動します。
ソースデータベースとターゲットデータベースを構成します。次の表にパラメーターを示します。
カテゴリ
構成
説明
なし
タスク名
DTS タスクの名前。DTS は自動的にタスク名を生成します。タスクを簡単に識別できるわかりやすい名前を指定することをお勧めします。一意のタスク名を指定する必要はありません。
移行元データベース
既存の接続情報の選択
DTS に登録されているデータベースインスタンスを使用する場合は、ドロップダウンリストからインスタンスを選択します。DTS は、インスタンスの次のデータベースパラメーターを自動的に入力します。詳細については、「データベース接続の管理」をご参照ください。
説明DMS コンソールでは、[DMS データベースインスタンスの選択] ドロップダウンリストからデータベースインスタンスを選択できます。
インスタンスを DTS に登録できない場合、または DTS に登録されているインスタンスを使用する必要がない場合は、次のデータベース情報を構成する必要があります。
データベースタイプ
MySQL を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスのリージョン
ソース RDS for MySQL インスタンスが存在するリージョンを選択します。
Alibaba Cloud アカウント間でデータを複製
この例では、現在の Alibaba Cloud アカウントのデータベースが使用されます。× を選択します。
RDS インスタンス ID
ソース RDS for MySQL インスタンスの ID を選択します。
データベースアカウント
ソース RDS for MySQL インスタンスのデータベースアカウントを入力します。権限要件の詳細については、「データベースアカウントに必要な権限」をご参照ください。
データベースのパスワード
データベースへのアクセスに使用されるパスワード。
暗号化
データベースへの接続を暗号化するかどうかを指定します。ビジネス要件に基づいて、[非暗号化] または [SSL 暗号化] を選択できます。このパラメーターを [SSL 暗号化] に設定する場合は、DTS タスクを構成する前に ApsaraDB RDS for MySQL インスタンスの SSL 暗号化を有効にする必要があります。詳細については、「クラウド証明書を使用して SSL 暗号化を有効にする」をご参照ください。
移行先データベース
既存の接続情報の選択
DTS に登録されているデータベースインスタンスを使用する場合は、ドロップダウンリストからインスタンスを選択します。DTS は、インスタンスの次のデータベースパラメーターを自動的に入力します。詳細については、「データベース接続の管理」をご参照ください。
説明DMS コンソールでは、[DMS データベースインスタンスの選択] ドロップダウンリストからデータベースインスタンスを選択できます。
インスタンスを DTS に登録できない場合、または DTS に登録されているインスタンスを使用する必要がない場合は、次のデータベース情報を構成する必要があります。
データベースタイプ
RocketMQ を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスのリージョン
宛先 ApsaraMQ for RocketMQ インスタンスが存在するリージョンを選択します。
RocketMQ バージョン
宛先 ApsaraMQ for RocketMQ インスタンスのバージョンを選択します。
インスタンス ID
宛先 ApsaraMQ for RocketMQ インスタンスの ID を選択します。
データベースアカウント
宛先 ApsaraMQ for RocketMQ インスタンスのデータベースアカウントとアカウントのパスワードを入力します。
説明このパラメーターは、RocketMQ バージョン が [5.x] に設定されている場合にのみ必須です。
ApsaraMQ for RocketMQ コンソールの [リソースアクセス管理] の [インテリジェント ID 認識] タブで取得できます。
データベースのパスワード
トピック
ドロップダウンリストから、データを受信するために使用する Topic を選択します。
DDL 情報を格納するトピック
ドロップダウンリストから、DDL 情報を格納するために使用する Topic を選択します。
説明このパラメーターが選択されていない場合、DDL 情報はデフォルトで トピック フィールドで選択された Topic に格納されます。
ページの下部にある 接続をテストして続行 をクリックします。
説明DTS サーバーからのアクセスを許可するために、DTS サーバーの CIDR ブロックがソースデータベースとターゲットデータベースのセキュリティ設定に自動または手動で追加できることを確認してください。詳細については、「DTS サーバーの IP アドレスをホワイトリストに追加する」をご参照ください。
ソースデータベースまたはターゲットデータベースが自己管理データベースで、その アクセス方法 が Alibaba Cloud インスタンス に設定されていない場合は、DTS サーバーの CIDR ブロック ダイアログボックスで 接続テスト をクリックします。
同期するオブジェクトを構成します。
オブジェクト設定 ステップで、同期するオブジェクトを構成します。
構成
説明
同期タイプ
デフォルトでは、[増分データ同期] が選択されています。[完全データ同期] のみを選択できます。[スキーマ同期] は選択できません。事前チェックが完了すると、DTS は選択したオブジェクトの既存データをソースデータベースからターゲットデータベースに同期します。既存データは、後続の増分同期の基礎となります。
説明宛先が ApsaraMQ for RocketMQ インスタンスの場合、スキーマ同期 はサポートされていません。
競合するテーブルの処理モード
エラーの事前チェックと報告: ターゲットデータベースにソースデータベースのテーブルと同じ名前のテーブルが含まれているかどうかをチェックします。ソースデータベースとターゲットデータベースに同じテーブル名のテーブルが含まれていない場合、事前チェックは合格します。それ以外の場合、事前チェック中にエラーが返され、データ同期タスクを開始できません。
説明ソースデータベースとターゲットデータベースに同じ名前のテーブルが含まれており、ターゲットデータベースのテーブルを削除または名前変更できない場合は、オブジェクト名マッピング機能を使用して、ターゲットデータベースに同期されるテーブルの名前を変更できます。詳細については、「オブジェクト名のマッピング」をご参照ください。
エラーを無視して続行: ソースデータベースとターゲットデータベースの同じテーブル名の事前チェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスに潜在的なリスクが生じる可能性があります。
ソースデータベースとターゲットデータベースのスキーマが同じで、ターゲットデータベースのデータレコードがソースデータベースのデータレコードと同じプライマリキー値または一意キー値を持つ場合:
完全データ同期中、DTS はデータレコードをターゲットデータベースに同期しません。ターゲットデータベースの既存のデータレコードは保持されます。
増分データ同期中、DTS はデータレコードをターゲットデータベースに同期します。ターゲットデータベースの既存のデータレコードは上書きされます。
ソースデータベースとターゲットデータベースのスキーマが異なる場合、データの初期化に失敗する可能性があります。この場合、一部の列のみが同期されるか、データ同期インスタンスが失敗します。注意して進めてください。
RocketMQ に配信されるデータ形式
宛先 Topic に同期するデータのストレージフォーマットを選択します。詳細については、「メッセージキューのデータストレージフォーマット」をご参照ください。
すべてのフィールドを同期する
UPDATE 文によって更新されるフィールドのプリイメージのみを宛先 Topic の old フィールドに同期するかどうかを選択できます。プリイメージは、UPDATE 文が実行される前のデータです。
説明この設定項目は、RocketMQ に配信されるデータ形式 が [Canal JSON] に設定されている場合にのみ使用できます。
○: UPDATE 文によって更新されたフィールドを含む行全体のプリイメージを同期します。
× (デフォルト): UPDATE 文によって更新されたフィールドのプリイメージのみを同期します。
RocketMQ に配信されるメッセージ順序のルール
同期されたデータを宛先 Topic に書き込むためのメッセージ順序付けルールを選択します。詳細については、「RocketMQ のメッセージ順序付けルール」をご参照ください。
DTS プロデューサーグループ名
宛先 Topic にメッセージを送信するプロデューサーグループ (ProducerGroup) を設定します。
説明デフォルト値は dts-producer-group です。
RocketMQ メッセージ送受信の TPS 制限
同期データを宛先 Topic に書き込むための最大メッセージングトランザクション/秒 (TPS) を設定できます。メッセージング TPS の詳細については、「コンピューティング仕様」をご参照ください。
重要値は ApsaraMQ for RocketMQ インスタンスの最大 TPS 以下である必要があります。詳細については、「インスタンスタイプの制限」をご参照ください。
同期インスタンスの実行中、ApsaraMQ for RocketMQ インスタンスの実際のメッセージ TPS は、指定された値の前後でわずかに変動する場合があります。
大規模なレコードのフィルタリングを設定するかどうか
4 MB を超えるメッセージ本文を宛先 Topic に書き込まないようにフィルターするかどうかを指定します。
重要× を選択した場合、メッセージ本文が 4 MB を超えると同期インスタンスは失敗します。
移行先インスタンスでのオブジェクト名の大文字化
宛先インスタンスのデータベース名、テーブル名、列名の大文字/小文字。デフォルトでは、[DTS デフォルトポリシー] が選択されています。他のオプションを選択して、オブジェクト名の大文字/小文字がソースデータベースまたはターゲットデータベースのものと一致するようにできます。詳細については、「宛先インスタンスのオブジェクト名の大文字/小文字を指定する」をご参照ください。
ソースオブジェクト
ソースオブジェクト セクションから 1 つ以上のオブジェクトを選択し、
アイコンをクリックしてオブジェクトを 選択中のオブジェクト セクションに追加します。 説明データベースまたはテーブルを同期オブジェクトとして選択できます。
選択中のオブジェクト
この例では、追加の構成は必要ありません。マッピング機能を使用して、宛先 ApsaraMQ for RocketMQ インスタンスの Topic 名を設定したり、フィルター条件を設定したり、同期する SQL 操作を選択したり、パーティションキーを設定したりできます。詳細については、「マッピング情報」をご参照ください。
詳細設定へ をクリックして詳細設定を構成します。
構成
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、専用クラスターを指定しない場合、DTS はタスクを共有クラスターにスケジュールします。データ同期インスタンスの安定性を向上させたい場合は、専用クラスターを購入してください。詳細については、「DTS 専用クラスターとは」をご参照ください。
失敗した接続の再試行時間
失敗した接続のリトライ時間範囲。データ同期タスクの開始後にソースデータベースまたはターゲットデータベースへの接続に失敗した場合、DTS は時間範囲内にすぐに接続をリトライします。有効値: 10~1440。単位: 分。デフォルト値: 720。このパラメーターを 30 より大きい値に設定することをお勧めします。DTS が指定された時間範囲内にソースデータベースとターゲットデータベースに再接続すると、DTS はデータ同期タスクを再開します。それ以外の場合、データ同期タスクは失敗します。
説明同じソースデータベースまたはターゲットデータベースを持つ複数のデータ同期タスクに異なるリトライ時間範囲を指定した場合、最も短いリトライ時間範囲が優先されます。
DTS が接続をリトライすると、DTS インスタンスに対して課金されます。ビジネス要件に基づいてリトライ時間範囲を指定することをお勧めします。ソースインスタンスと宛先インスタンスがリリースされた後、できるだけ早く DTS インスタンスをリリースすることもできます。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
その他の問題のリトライ時間範囲。たとえば、データ同期タスクの開始後に DDL または DML 操作の実行に失敗した場合、DTS は時間範囲内にすぐに操作をリトライします。有効値: 1~1440。単位: 分。デフォルト値: 10。このパラメーターを 10 より大きい値に設定することをお勧めします。失敗した操作が指定された時間範囲内に正常に実行されると、DTS はデータ同期タスクを再開します。それ以外の場合、データ同期タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 パラメーターの値は、失敗した接続の再試行時間 パラメーターの値より小さくする必要があります。
完全同期レートを制限するかどうか
完全データ同期中、DTS はソースデータベースとターゲットデータベースの読み取りおよび書き込みリソースを使用します。これにより、データベースサーバーの負荷が増加する可能性があります。1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、1 秒あたりの完全移行データ量 (MB) BPS パラメーターを完全データ同期タスクに構成して、ターゲットデータベースサーバーの負荷を軽減できます。
説明このパラメーターは、同期タイプ パラメーターで 完全データ同期 が選択されている場合にのみ構成できます。
増分同期率を制限するかどうか
増分データ同期のスロットリングを有効にするかどうかを指定します。ビジネス要件に基づいて、増分データ同期のスロットリングを有効にできます。スロットリングを構成するには、1 秒あたりの増分同期の行数 RPS と 1 秒あたりの増分同期データ量 (MB) BPS パラメーターを構成する必要があります。これにより、ターゲットデータベースサーバーの負荷が軽減されます。
順方向および逆方向タスクのハートビートテーブル SQL を削除
DTS インスタンスの実行中にハートビートテーブルに対する SQL 操作をソースデータベースに書き込むかどうかを指定します。有効値:
[はい]: ハートビートテーブルに対する SQL 操作を書き込みません。この場合、DTS インスタンスの遅延が表示されることがあります。
[いいえ]: ハートビートテーブルに対する SQL 操作を書き込みます。この場合、ソースデータベースの物理バックアップやクローニングなどの機能が影響を受ける可能性があります。
環境タグ
環境タグを選択してインスタンスを識別できます。この例では、タグを選択する必要はありません。
ETL の設定
抽出・変換・書き出し (ETL) 機能を有効にするかどうかを指定します。詳細については、「ETL とは」をご参照ください。有効値:
[はい]: ETL 機能を構成します。コードエディタにデータ処理文を入力できます。詳細については、「データ移行またはデータ同期タスクで ETL を構成する」をご参照ください。
[いいえ]: ETL 機能を構成しません。
監視アラート
データ同期インスタンスのアラートを構成するかどうかを指定します。タスクが失敗した場合、または同期遅延が指定されたしきい値を超えた場合、アラート連絡先は通知を受け取ります。有効値:
[いいえ]: アラートを有効にしません。
[はい]: アラートを構成します。この場合、アラートのしきい値とアラート通知設定も構成する必要があります。詳細については、「モニタリングとアラートの構成」トピックの「DTS タスク作成時のモニタリングとアラートの構成」セクションをご参照ください。
タスク設定を保存して事前チェックを実行します。
関連する API 操作を呼び出して DTS タスクを構成するときに指定するパラメーターを表示するには、次:タスク設定の保存と事前チェック にポインターを合わせ、OpenAPI パラメーターのプレビュー をクリックします。
パラメーターを表示する必要がない場合、または表示した場合は、ページの下部にある 次:タスク設定の保存と事前チェック をクリックします。
説明データ同期タスクを開始する前に、DTS は事前チェックを実行します。タスクが事前チェックに合格した後にのみ、データ同期タスクを開始できます。
データ同期タスクが事前チェックに失敗した場合は、失敗した各項目の横にある [詳細の表示] をクリックします。チェック結果に基づいて原因を分析した後、問題をトラブルシューティングします。その後、事前チェックを再実行します。
事前チェック中に項目のアラートがトリガーされた場合:
アラート項目を無視できない場合は、失敗した項目の横にある [詳細の表示] をクリックして問題をトラブルシューティングします。その後、再度事前チェックを実行します。
アラート項目を無視できる場合は、[アラート詳細の確認] をクリックします。[詳細の表示] ダイアログボックスで、[無視] をクリックします。表示されるメッセージで、[OK] をクリックします。その後、[再度事前チェック] をクリックして再度事前チェックを実行します。アラート項目を無視すると、データの不整合が発生し、ビジネスに潜在的なリスクが生じる可能性があります。
インスタンスを購入します。
[成功率] が [100%] になるまで待ってから、[次へ: インスタンスの購入] をクリックします。
[購入] ページで、データ同期タスクの課金方法とインスタンスクラスのパラメーターを構成します。次の表にパラメーターを示します。
セクション
パラメーター
説明
新しいインスタンスクラス
課金方法
サブスクリプション: データ同期インスタンスを作成するときにサブスクリプションの料金を支払います。サブスクリプション課金方法は、長期使用の場合、従量課金方法よりも費用対効果が高くなります。
従量課金: 従量課金インスタンスは時間単位で課金されます。従量課金方法は短期使用に適しています。従量課金データ同期インスタンスが不要になった場合は、インスタンスをリリースしてコストを削減できます。
リソースグループ設定
データ同期インスタンスが属するリソースグループ。デフォルト値: [デフォルトリソースグループ]。詳細については、「Resource Management とは」をご参照ください。
インスタンスクラス
DTS は、同期速度が異なるインスタンスクラスを提供します。ビジネス要件に基づいてインスタンスクラスを選択できます。詳細については、「データ同期インスタンスのインスタンスクラス」をご参照ください。
サブスクリプション期間
サブスクリプション課金方法を選択した場合は、サブスクリプション期間と作成するデータ同期インスタンスの数を指定します。サブスクリプション期間は、1~9 か月、1 年、2 年、3 年、または 5 年にすることができます。
説明このパラメーターは、サブスクリプション 課金方法を選択した場合にのみ使用できます。
[Data Transmission Service (従量課金) サービス規約] を読んで選択します。
[購入して開始] をクリックします。表示されるダイアログボックスで、OK をクリックします。
タスクリストでタスクの進行状況を表示できます。
マッピング情報
選択中のオブジェクト リストボックスで、Topic 名の上にポインターを移動します。
宛先 Topic 名の横にある 編集 をクリックします。
表示されるダイアログボックスで、マッピング情報を構成します。
説明データベースレベルとテーブルレベルの両方でマッピング機能を使用する場合、テーブルレベルのマッピングが優先され、データベースレベルのマッピングは有効になりません。
データベースレベルは スキーマの編集 ダイアログボックスで、テーブルレベルは テーブルの編集 ダイアログボックスです。
データベースレベル
構成
説明
スキーマ名
同期するデータが書き込まれる Topic の名前。デフォルトでは、このパラメーターは ソースデータベースとターゲットデータベースの設定 ステップの 移行先データベース セクションの トピック の値に設定されます。
重要指定された Topic 名は、宛先 ApsaraMQ for RocketMQ インスタンスに存在する必要があります。そうしないと、データ同期は失敗します。
スキーマ名 を変更すると、データは指定された Topic に書き込まれます。
同期する DDL および DML 操作を選択
必要に応じて、増分同期の SQL 操作を選択できます。
テーブルレベル
構成
説明
テーブル名
同期するデータが書き込まれる Topic の名前。デフォルトでは、このパラメーターは ソースデータベースとターゲットデータベースの設定 ステップの 移行先データベース セクションの トピック の値に設定されます。
重要指定された Topic 名は、宛先 ApsaraMQ for RocketMQ インスタンスに存在する必要があります。そうしないと、データ同期は失敗します。
テーブル名 を変更すると、データは入力した Topic に書き込まれます。
フィルタリング条件
詳細については、「フィルター条件の設定」をご参照ください。
同期する DDL および DML 操作を選択
必要に応じて、増分同期の SQL 操作を選択できます。
パーティションキー
RocketMQ に配信されるメッセージ順序のルール が 指定した列のハッシュ値による配信 に設定されている場合、1 つ以上の列をパーティションキーとして指定できます。DTS は指定された列のハッシュ値を計算し、計算されたハッシュ値に基づいてターゲット Topic の対応するパーティションに異なる行を配信します。
[OK] をクリックします。