Data Transmission Service (DTS) を使用して、RDS for MySQL インスタンスから Message Queue for Apache Kafka インスタンスへデータを移行できます。
前提条件
ソース ApsaraDB RDS for MySQL インスタンスと送信先 ApsaraMQ for Kafka インスタンスを作成しました。
説明ApsaraDB RDS for MySQL インスタンスの作成方法については、「ApsaraDB RDS for MySQL インスタンスの作成」をご参照ください。
サポートされているソースおよびターゲットデータベースのバージョンについては、「移行シナリオの概要」をご参照ください。
ターゲットとなる ApsaraMQ for Kafka インスタンスのストレージ容量は、ソースとなる ApsaraDB RDS for MySQL インスタンスが使用している容量よりも大きい必要があります。
ターゲットとなる ApsaraMQ for Kafka インスタンスに、移行データを受信するためのトピックを作成済みである必要があります。手順については、「ステップ 1:トピックの作成」をご参照ください。
制限事項
DTS は外部キーを移行しません。そのため、ソースデータベースでカスケード削除などのカスケード操作を行っても、ターゲットデータベースには複製されません。
|
種別 |
説明 |
|
ソースデータベースの制限 |
|
|
その他の制限 |
|
|
特殊なケース |
|
課金
|
移行タイプ |
タスク構成料金 |
インターネットトラフィック料金 |
|
スキーマ移行および完全データ移行 |
無料です。 |
ターゲットデータベースのアクセス方法が パブリック IP アドレス に設定されている場合、DTS はインターネットトラフィック料金を請求します。「課金概要」をご参照ください。 |
|
増分データ移行 |
課金対象です。「課金概要」をご参照ください。 |
移行タイプ
-
スキーマ移行
DTS は、移行オブジェクトのスキーマ定義をソースデータベースからターゲットデータベースへ移行します。
-
完全移行
DTS は、指定された移行オブジェクトの既存データをすべてソースデータベースからターゲットデータベースへ移行します。
-
増分移行
完全移行完了後、DTS はソースデータベースからターゲットデータベースへ増分データの更新を移行します。増分移行により、セルフマネージドアプリケーションを中断することなくスムーズにデータ移行が可能です。
増分移行の SQL 操作
操作タイプ | SQL ステートメント |
DML | INSERT、UPDATE、DELETE |
DDL |
|
データベースアカウントの権限
インスタンス | スキーマ移行 | 完全データ移行 | 増分データ移行 |
ApsaraDB RDS for MySQL ソースインスタンス | 移行対象オブジェクトに対する読み取り権限が必要です。 | ||
操作手順
-
以下のいずれかの方法で、ターゲットリージョンの移行タスクリストページに移動します。
DTS コンソールから
-
左側のナビゲーションウィンドウで、データの移行 をクリックします。
-
ページ左上隅で、移行インスタンスが配置されているリージョンを選択します。
DMS コンソールから
説明実際の操作は、DMS コンソールのモードおよびレイアウトによって異なる場合があります。詳細については、「シンプルモードコンソール」および「DMS コンソールのレイアウトとスタイルのカスタマイズ」をご参照ください。
-
Data Management (DMS) コンソールにログインします。
-
上部メニューバーで、 を選択します。
-
データ移行タスク の右側で、移行インスタンスが配置されているリージョンを選択します。
-
タスクの作成 をクリックして、タスク構成ページに移動します。
ソースおよびターゲットデータベースを構成します。
警告ソースおよびターゲットインスタンスを選択した後、ページ上部に表示される制限事項を慎重にご確認ください。確認しない場合、タスクが失敗したり、データの不整合が発生したりする可能性があります。
カテゴリ
パラメーター
説明
該当なし
タスク名
DTS は自動的にタスク名を生成します。識別しやすいように、わかりやすい名前を指定することを推奨します。名前は一意である必要はありません。
ソースデータベース
既存の接続情報の選択
-
システムに追加済み(作成または保存済み)のデータベースインスタンスを使用する場合、ドロップダウンリストから目的のデータベースインスタンスを選択してください。これにより、下記のデータベース情報が自動的に構成されます。
説明DMS コンソールでは、このパラメーターの名称は DMS データベースインスタンスの選択 です。
-
データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用しない場合は、下記でデータベース情報を手動で構成してください。
データベースタイプ
MySQL を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
ソース RDS for MySQL インスタンスのリージョンを選択します。
Alibaba Cloudアカウント全体でのデータの複製
同一 Alibaba Cloud アカウント内での移行の場合、× を選択します。
RDS インスタンス ID
ソース RDS for MySQL インスタンスの ID を選択します。
データベースアカウント
ソース RDS for MySQL インスタンスのデータベースアカウントを入力します。このアカウントには、移行対象オブジェクトに対する読み取り権限が必要です。
データベースパスワード
データベースアカウントに対応するパスワードを入力します。
暗号化
必要に応じて、非暗号化 または SSL 暗号化 を選択します。SSL 暗号化 を選択する場合は、事前に RDS for MySQL インスタンスで SSL 暗号化を有効にしておく必要があります。詳細については、「クラウド証明書を使用した SSL 暗号化の迅速な有効化」をご参照ください。
宛先データベース
既存の接続情報の選択
-
システムに追加済み(作成または保存済み)のデータベースインスタンスを使用する場合、ドロップダウンリストから目的のデータベースインスタンスを選択してください。これにより、下記のデータベース情報が自動的に構成されます。
説明DMS コンソールでは、このパラメーターの名称は DMS データベースインスタンスの選択 です。
-
データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用しない場合は、下記でデータベース情報を手動で構成してください。
データベースタイプ
Kafka を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
ターゲット ApsaraMQ for Kafka インスタンスのリージョンを選択します。
Kafka インスタンス ID
ターゲット ApsaraMQ for Kafka インスタンスの ID を選択します。
暗号化
ビジネスおよびセキュリティ要件に基づき、非暗号化 または SCRAM-SHA-256 を選択します。
トピック
データを受信するトピックを選択します。
Kafka スキーマレジストリの使用
Kafka Schema Registry は、Avro スキーマを格納および取得するための RESTful インターフェイスを提供します。
×:Kafka Schema Registry を使用しません。
○:Kafka Schema Registry を使用します。Kafka Schema Registry に登録された Avro スキーマの URL または IP アドレスを入力する必要があります。
-
-
構成が完了したら、ページ下部の 接続をテストして続行 をクリックします。
説明-
DTS サーバーからのアクセスを許可するために、ソースおよびターゲットデータベースのセキュリティ設定に DTS サービスの IP アドレスセグメントが自動または手動で追加されていることを確認してください。詳細については、「DTS サーバーの IP アドレスをホワイトリストに追加」をご参照ください。
-
ソースまたはターゲットデータベースが自己管理データベース(アクセス方法 が Alibaba Cloud インスタンス ではない)の場合、表示される DTS サーバーの CIDR ブロック ダイアログボックス内で、接続テスト をクリックする必要があります。
-
タスクオブジェクトを構成します。
オブジェクト設定 ページで、移行対象のオブジェクトを構成します。
パラメーター
説明
移行タイプ
完全移行のみ必要な場合は、スキーマ移行 および 完全データ移行 の両方を選択します。
ダウンタイムなしのシームレスな移行を行う場合は、スキーマ移行、完全データ移行、および 増分データ移行 を選択します。
説明ターゲット Kafka インスタンスの アクセス方法 が Alibaba Cloud インスタンス の場合、スキーマ移行 はサポートされません。
データ整合性を確保するため、増分データ移行 を選択しない場合、移行中はソースインスタンスに新しいデータを書き込まないでください。
競合テーブルの処理モード
-
エラーの事前チェックと報告:ターゲットデータベースに同名のテーブルが存在するかどうかをチェックします。同名のテーブルが存在しない場合、事前チェックは合格します。同名のテーブルが存在する場合、事前チェック中にエラーが報告され、データ移行タスクは開始されません。
説明ターゲットデータベースのテーブルが同名であり、簡単に削除または名前変更できない場合は、ターゲットデータベース内のテーブル名を変更できます。詳細については、「オブジェクト名マッピング」をご参照ください。
-
エラーを無視して続行:同名のテーブルのチェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合やビジネスリスクが発生する可能性があります。例として以下のようなケースが考えられます。
-
テーブルスキーマが一致しており、ターゲットデータベースのレコードがソースデータベースのレコードと同じプライマリキー値を持つ場合:
-
完全移行中、DTS はターゲットデータベースのレコードを保持します。ソースデータベースのレコードは移行されません。
-
増分移行中、DTS はターゲットデータベースのレコードを保持しません。ソースデータベースのレコードがターゲットデータベースのレコードを上書きします。
-
-
テーブルスキーマが不一致の場合、一部のカラムのデータのみが移行されるか、移行が失敗する可能性があります。慎重に進めてください。
-
Kafka のデータ形式
Kafka インスタンスに移行するデータのストレージ形式を選択します。
DTS Avro を選択する場合、DTS Avro スキーマ定義に基づいてデータを解析する必要があります。詳細については、「DTS Avro スキーマ定義」および「DTS Avro デシリアライズの例」をご参照ください。
Canal JSON を選択する場合、パラメーターの詳細および例については、「Canal JSON の説明」をご参照ください。
Shareplex JSON を選択する場合、パラメーターの詳細および例については、「Shareplex JSON」をご参照ください。
Kafka 圧縮形式
要件に基づき、Kafka メッセージの圧縮形式を選択します。
LZ4(デフォルト):圧縮率が低く、圧縮速度が高速です。
GZIP:圧縮率が高く、圧縮速度が低速です。
説明CPU 使用率が高くなります。
Snappy:圧縮率および圧縮速度が中程度です。
Kafka パーティションへのデータ転送ポリシー
ビジネス要件に基づき、戦略 を選択します。
メッセージ肯定応答メカニズム
ビジネス要件に基づき、メッセージ確認応答メカニズム を選択します。
DDL 情報を格納するトピック
DDL 情報を格納するトピックを選択します。
説明トピックを選択しない場合、DTS はデフォルトでデータトピックに DDL 情報を格納します。
移行先インスタンスでのオブジェクト名の大文字化
ターゲットインスタンスにおける移行オブジェクト(データベース、テーブル、カラムなど)の名前の大文字小文字区別ポリシーを構成できます。デフォルトでは、DTS のデフォルトポリシー が選択されています。また、ソースまたはターゲットデータベースのデフォルトポリシーと一致させるように選択することもできます。詳細については、「ターゲットデータベースにおけるオブジェクト名の大文字小文字区別」をご参照ください。
ソースオブジェクト
ソースオブジェクト ボックスで、移行対象のオブジェクトをクリックし、
をクリックして 選択中のオブジェクト ボックスに移動させます。説明テーブルレベルで移行対象のオブジェクトを選択できます。
選択中のオブジェクト
この例では追加の構成は不要です。マッピング機能を使用して、各ソーステーブルのトピック名、パーティション数、パーティションキーを指定できます。詳細については、「マッピング情報」をご参照ください。
説明オブジェクト名マッピング機能を使用すると、依存オブジェクトの移行が失敗する可能性があります。
増分移行の SQL 操作を選択するには、選択中のオブジェクト ボックス内の移行オブジェクトを右クリックし、表示されるダイアログボックスで目的の SQL 操作を選択します。
詳細設定へ をクリックして、詳細パラメーターを構成します。
パラメーター
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、DTS は共有クラスター上でタスクをスケジューリングします。選択する必要はありません。より安定したタスクを実行したい場合は、DTS 移行タスクを実行するための専用クラスターを購入できます。
失敗した接続の再試行時間
移行タスク開始後、ソースまたはターゲットデータベースへの接続が失敗した場合、DTS はエラーを報告し、直ちに接続の再試行を開始します。デフォルトの再試行時間は 720 分です。10 ~ 1440 分の範囲で再試行時間をカスタマイズできます。30 分以上に設定することを推奨します。指定された時間内に DTS がソースおよびターゲットデータベースに再接続できた場合、移行タスクは自動的に再開されます。そうでない場合、タスクは失敗します。
説明-
同一のソースまたはターゲットを共有する複数の DTS インスタンスの場合、ネットワーク再試行時間は最後に作成されたタスクの設定によって決定されます。
-
接続再試行期間中もタスクに対して課金されるため、ビジネス要件に基づいて再試行時間をカスタマイズするか、ソースおよびターゲットデータベースインスタンスをリリースした後はできるだけ早く DTS インスタンスをリリースすることを推奨します。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
移行タスク開始後、接続以外の問題(DDL または DML 実行例外など)がソースまたはターゲットデータベースで発生した場合、DTS はエラーを報告し、直ちに操作の再試行を開始します。デフォルトの再試行時間は 10 分です。1 ~ 1440 分の範囲で再試行時間をカスタマイズできます。10 分以上に設定することを推奨します。指定された再試行時間内に関連操作が成功した場合、移行タスクは自動的に再開されます。そうでない場合、タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値よりも小さくする必要があります。
完全移行率を制限するかどうか
完全移行中、DTS はソースおよびターゲットデータベースの読み取りおよび書き込みリソースを消費するため、データベース負荷が増大する可能性があります。必要に応じて、完全移行タスクの速度制限を有効化できます。1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS を設定して、ターゲットデータベースの負荷を軽減できます。
説明-
この設定項目は、移行タイプ で 完全データ移行 を選択した場合にのみ利用可能です。
-
移行インスタンスの実行後も、完全移行速度を調整 できます。
増分移行率を制限するかどうか
必要に応じて、増分移行タスクの速度制限を設定することもできます。1 秒あたりの増分移行の行数 RPS および 1 秒あたりの増分移行データ量 (MB) BPS を設定して、ターゲットデータベースの負荷を軽減できます。
説明-
この設定項目は、移行タイプ で 増分データ移行 を選択した場合にのみ利用可能です。
-
移行インスタンスの実行後も、増分移行速度を調整 できます。
順方向および逆方向タスクのハートビートテーブル SQL を削除
DTS インスタンス実行時に、ハートビート SQL 情報をソースデータベースに書き込むかどうかを選択します。
-
○:ハートビート SQL 情報はソースデータベースに書き込まれません。これにより、DTS インスタンスが遅延を報告する可能性があります。
-
×:ハートビート SQL 情報をソースデータベースに書き込みます。これにより、ソースデータベースの物理バックアップやクローンなどの機能に干渉する可能性があります。
環境タグ
インスタンスを識別するために環境タグを選択します。この例では選択不要です。
ETL 機能の設定
監視アラート
ビジネス要件に基づき、アラートを設定してアラート通知を受信するかどうかを選択します。
-
×:アラートを設定しません。
-
○:アラートのしきい値 および アラート通知 を設定してアラートを構成します。移行が失敗した場合や遅延がしきい値を超えた場合、システムがアラート通知を送信します。
-
-
タスクを保存して事前チェックを実行します。
-
API オペレーションを呼び出す際にこのインスタンスを構成するパラメーターを表示するには、次:タスク設定の保存と事前チェック ボタンにポインターを合わせ、表示されるバルーン内で OpenAPI パラメーターのプレビュー をクリックします。
-
API パラメーターを表示する必要がない場合、または表示が完了した場合は、ページ下部の 次:タスク設定の保存と事前チェック をクリックします。
説明-
移行タスク開始前に、DTS は事前チェックを実行します。事前チェックに合格した後でのみ、タスクが開始されます。
-
事前チェックに失敗した場合、失敗したチェック項目の横にある 詳細を表示 をクリックし、プロンプトに基づいて問題を修正した後、再度事前チェックを実行してください。
-
事前チェック中に警告が報告された場合:
-
無視できないチェック項目の場合、失敗した項目の横にある 詳細を表示 をクリックし、プロンプトに基づいて問題を修正した後、再度事前チェックを実行してください。
-
無視可能なチェック項目の場合、アラートの詳細を確認、無視、OK、および 再度事前チェックを実行 をクリックして、アラート項目をスキップし、再度事前チェックを実行できます。警告を無視することを選択した場合、データの不整合などの問題が発生し、ビジネスにリスクをもたらす可能性があります。
-
-
インスタンスを購入します。
-
成功率 が 100% になったら、次:インスタンスの購入 をクリックします。
-
購入 ページで、データ移行インスタンスのリンク仕様を選択します。詳細は次の表をご参照ください。
カテゴリ
パラメーター
説明
新しいインスタンスクラス
リソースグループの設定
インスタンスが属するリソースグループを選択します。デフォルト値はデフォルトリソースグループです。詳細については、「Resource Management とは」をご参照ください。
インスタンスクラス
DTS は、さまざまなパフォーマンスレベルを持つ移行仕様を提供しています。リンク仕様は移行速度に影響します。ビジネスシナリオに基づいて仕様を選択できます。詳細については、「データ移行リンク仕様」をご参照ください。
-
構成が完了したら、Data Transmission Service (従量課金) 利用規約 を読み、同意してください。
-
購入して起動 をクリックします。表示される OK ダイアログボックスで、OK をクリックします。
データ移行タスク リストページで、移行タスクの進捗状況を確認できます。
説明-
移行タスクに増分移行が含まれていない場合、完全移行完了後に自動的に停止します。タスクが停止すると、ステータス は 完了 に変化します。
-
移行タスクに増分移行が含まれている場合、自動的に停止しません。増分移行タスクは継続して実行されます。増分移行タスク実行中、タスクの ステータス は 実行中 です。
-
-
マッピング情報
選択中のオブジェクト エリアで、テーブルレベルの宛先トピック名にポインターを合わせます。
宛先トピック名の横にある 編集 をクリックします。
テーブルの編集 ダイアログボックスで、マッピング情報を構成します。
説明ダイアログボックスの名称は、データベースレベルでは スキーマの編集、テーブルレベルでは テーブルの編集 です。スキーマの編集 ダイアログボックスのパラメーターは少ないです。
データベース全体を移行しない場合、スキーマの編集 ダイアログボックスで、対象トピックの名前 および パーティション数 パラメーターを変更できません。
パラメーター
説明
対象トピックの名前
ソーステーブルからデータを受信するトピックの名前です。これは、ソースデータベースとターゲットデータベースの設定 ステップの 移行先データベース セクションで選択した トピック がデフォルトになります。
重要ターゲットが Message Queue for Apache Kafka インスタンスの場合、指定されたトピックはすでにターゲットインスタンスに存在している必要があります。存在しない場合、データ移行タスクは失敗します。ターゲットが自己管理 Kafka データベースで、データ移行タスクにデータベースおよびテーブル構造の移行が含まれている場合、DTS はターゲットデータベースに指定されたトピックの作成を試みます。
対象トピックの名前 を変更した場合、DTS は指定されたトピックにデータを書き込みます。
フィルタリング条件
詳細については、「フィルター条件の構成」をご参照ください。
パーティション数
宛先トピックのパーティション数です。
パーティションキー
Kafka パーティションへのデータ転送ポリシー が 主キーのハッシュ値に基づいて、データを個別のパーティションに転送 に設定されている場合に利用可能です。1 つ以上のカラムをパーティションキーとして指定します。DTS は指定されたカラムのハッシュ値を計算し、行を宛先トピックのパーティション間で分散させます。
説明パーティションキー は、テーブルの編集 ダイアログボックスでのみ選択できます。
OK をクリックします。