Data Transmission Service (DTS) を使用して、PolarDB-X インスタンスから Message Queue for Apache Kafka にデータを移行し、メッセージ処理をスケーリングする方法について説明します。
前提条件
-
ソース PolarDB-X 2.0 インスタンスが作成済みであること。
移行されたデータを受信するために、ターゲットの Message Queue for Apache Kafka インスタンスにトピックが作成済みであること。 詳細については、「ステップ 1:トピックの作成」をご参照ください。
ソースインスタンスとターゲットインスタンスで、サポートされているデータベースのバージョンを使用していること。 詳細については、「データベースのバージョン」をご参照ください。
ターゲットの Message Queue for Apache Kafka インスタンスのストレージ容量が、PolarDB-X 2.0 インスタンスで使用されている容量よりも大きいこと。
制限事項
DTS は外部キーを移行しません。そのため、ソースデータベースでのカスケード削除などのカスケード操作は、ターゲットデータベースではレプリケートされません。
|
タイプ |
説明 |
|
ソースデータベースの制限事項 |
|
|
その他の制限事項 |
|
|
注意事項 |
DTS は、バイナリログの位置を進めるために、ソースデータベースの |
課金
|
移行タイプ |
インスタンス構成料金 |
インターネットトラフィック料金 |
|
スキーマ移行と完全なデータ移行 |
無料です。 |
ターゲットデータベースの アクセス方法 パラメーターが パブリック IP アドレス に設定されている場合、インターネットトラフィックに対して課金されます。 詳細については、「課金概要」をご参照ください。 |
|
増分データ移行 |
課金されます。 詳細については、「課金概要」をご参照ください。 |
移行タイプ
スキーマ移行
DTS は、移行オブジェクトのスキーマ定義をソースデータベースからターゲットデータベースに移行します。
完全移行
DTS は、指定された移行オブジェクトのすべての既存データをソースデータベースからターゲットデータベースに移行します。
増分移行
完全移行が完了した後、DTS はソースデータベースからの増分データ更新をターゲットデータベースに移行します。 増分移行により、自己管理アプリケーションを中断することなく、データをスムーズに移行できます。
増分移行の SQL 操作
操作タイプ | SQL ステートメント |
DML |
|
DDL |
説明
ソースデータベースが Enterprise Edition の PolarDB-X 2.0 インスタンスの場合、 |
データベースアカウントの権限
データベース | スキーマ移行 | 完全移行 | 増分移行 |
PolarDB-X インスタンス | SELECT 権限 | SELECT 権限 | REPLICATION SLAVE および REPLICATION CLIENT 権限、および移行するオブジェクトに対する SELECT 権限。 説明 権限の付与方法については、「データ同期中のアカウント権限の問題」をご参照ください。 |
次のいずれかの方法で、ターゲットリージョンの移行タスクリストページに移動します。
DTS コンソールから
左側のナビゲーションウィンドウで、データの移行 をクリックします。
ページの左上隅で、データ移行インスタンスが配置されているリージョンを選択します。
DMS コンソールから
説明実際の操作は、DMS コンソールのモードとレイアウトによって異なる場合があります。 詳細については、「シンプルモードコンソール」および「DMS コンソールのレイアウトとスタイルをカスタマイズする」をご参照ください。
Data Management (DMS) コンソールにログインします。
トップメニューバーで、 を選択します。
データ移行タスク の右側で、データ移行インスタンスが配置されているリージョンを選択します。
タスクの作成 をクリックして、タスク構成ページに移動します。
ソースデータベースとターゲットデータベースを設定します。
警告ソースインスタンスとターゲットインスタンスを選択した後、ページの上部に表示される制限事項を注意深くお読みいただくことを推奨します。 そうしないと、タスクが失敗したり、データの不整合が発生したりする可能性があります。
カテゴリ
パラメーター
説明
N/A
タスク名
DTS は自動的にタスク名を生成します。 識別しやすいように、わかりやすい名前を指定することを推奨します。 名前は一意である必要はありません。
ソースデータベース
既存の接続情報の選択
システムに追加された (作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストから目的のデータベースインスタンスを選択します。 以下のデータベース情報が自動的に設定されます。
説明DMS コンソールでは、このパラメーターは DMS データベースインスタンスの選択 という名前です。
データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
データベースタイプ
PolarDB-X 2.0 を選択します。
アクセス方法
Alibaba Cloud インスタンス を選択します。
インスタンスリージョン
ソース PolarDB-X 2.0 インスタンスが配置されているリージョンを選択します。
Alibaba Cloud アカウント間でデータを複製
この例では、同じ Alibaba Cloud アカウント内での移行を示します。 × を選択します。
インスタンス ID
ソース PolarDB-X 2.0 インスタンスの ID を選択します。
データベースアカウント
ソース PolarDB-X 2.0 インスタンスのデータベースアカウントを入力します。 必要な権限については、「データベースアカウントに必要な権限」をご参照ください。
データベースパスワード
データベースアカウントに対応するパスワードを入力します。
宛先データベース
既存の接続情報の選択
システムに追加された (作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストから目的のデータベースインスタンスを選択します。 以下のデータベース情報が自動的に設定されます。
説明DMS コンソールでは、このパラメーターは DMS データベースインスタンスの選択 という名前です。
データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
データベースタイプ
Kafka を選択します。
アクセス方法
Express Connect、VPN Gateway、または Smart Access Gateway を選択します。
説明このステップでは、Message Queue for Apache Kafka インスタンスは自己管理 Kafka データベースとして設定されます。
インスタンスリージョン
ターゲットの Kafka インスタンスが配置されているリージョンを選択します。
接続中の VPC
ターゲットの Kafka インスタンスが属する VPC の ID を選択します。 VPC ID は、Kafka インスタンスの 基本情報 ページで確認できます。
ドメイン名または IP アドレス
Kafka インスタンスの [デフォルトエンドポイント] から IP アドレスを入力します。
説明IP アドレスは、Kafka インスタンスの 基本情報 ページの [デフォルトエンドポイント] セクションから取得できます。
ポート
Kafka インスタンスのサービスポート。 デフォルト:9092。
データベースアカウント
ターゲットの Kafka インスタンスのデータベースアカウントを入力します。
説明Kafka インスタンスが [VPC インスタンス] の場合、データベースアカウント と データベースのパスワード の設定は不要です。
データベースパスワード
データベースアカウントに対応するパスワードを入力します。
Kafka のバージョン
ご利用の Kafka インスタンスに一致するバージョンを選択します。
接続方法
ビジネスおよびセキュリティ要件に基づいて、非暗号化 または SCRAM-SHA-256 を選択します。
トピック
データを受信するトピックを選択します。
Kafka スキーマレジストリの使用
Kafka Schema Registry は、Avro スキーマの保存と取得のための RESTful インターフェイスを提供するメタデータサービスレイヤーです。
いいえ:Kafka Schema Registry を使用しません。
○:Kafka Schema Registry を使用します。 Kafka Schema Registry に登録されている Avro スキーマの URL または IP アドレスを入力する必要があります。
設定が完了したら、ページ下部の 接続をテストして続行 をクリックします。
説明DTS サーバーからのアクセスを許可するために、DTS サービスの IP アドレスセグメントがソースデータベースとターゲットデータベースのセキュリティ設定に自動または手動で追加されていることを確認してください。 詳細については、「DTS サーバーの IP アドレスをホワイトリストに追加する」をご参照ください。
ソースまたはターゲットデータベースが自己管理データベースの場合 (アクセス方法 が Alibaba Cloud インスタンス ではない場合)、表示される DTS サーバーの CIDR ブロック ダイアログボックスで 接続テスト をクリックする必要もあります。
タスクオブジェクトを設定します。
オブジェクト設定 ページで、移行するオブジェクトを設定します。
パラメーター
説明
移行タイプ
完全移行のみを実行する必要がある場合は、スキーマ移行 と 完全データ移行 の両方を選択します。
ダウンタイムなしで移行を実行するには、スキーマ移行、完全データ移行、および 増分データ移行 を選択します。
説明スキーマ移行 を選択しない場合は、データを受信するデータベースとテーブルがターゲットデータベースに存在することを確認する必要があります。 必要に応じて、選択中のオブジェクト ボックスのオブジェクト名マッピング機能を使用することもできます。
増分データ移行 を選択しない場合は、データ整合性を確保するために、データ移行中にソースインスタンスに新しいデータを書き込まないでください。
競合テーブルの処理モード
エラーの事前チェックと報告:ターゲットデータベースに同じ名前のテーブルが存在するかどうかを確認します。 同じ名前のテーブルが存在しない場合、事前チェックは合格します。 同じ名前のテーブルが存在する場合、事前チェック中にエラーが報告され、データ移行タスクは開始されません。
説明ターゲットデータベースのテーブルが同じ名前で、簡単に削除または名前変更できない場合は、ターゲットデータベースのテーブル名を変更できます。 詳細については、「オブジェクト名マッピング」をご参照ください。
エラーを無視して続行:同じ名前のテーブルのチェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合やビジネスリスクが発生する可能性があります。 例:
テーブルスキーマが一致し、ターゲットデータベースのレコードがソースデータベースのレコードと同じプライマリキー値を持つ場合:
完全移行中、DTS はターゲットデータベースのレコードを保持します。 ソースデータベースからのレコードは移行されません。
増分移行中、DTS はターゲットデータベースのレコードを保持しません。 ソースデータベースからのレコードがターゲットデータベースのレコードを上書きします。
テーブルスキーマが一致しない場合、一部の列のデータのみが移行されるか、移行が失敗する可能性があります。 注意して進めてください。
Kafka のデータ形式
Kafka インスタンスに移行されるデータのストレージ形式を選択します。
[DTS Avro] を選択した場合、DTS Avro スキーマ定義に基づいてデータを解析する必要があります。 詳細については、「DTS Avro スキーマ定義」および「DTS Avro デシリアライズの例」をご参照ください。
[Canal JSON] を選択した場合、パラメーターの説明と例については、「Canal JSON 形式」をご参照ください。
Kafka 圧縮形式
要件に応じて、Kafka メッセージの圧縮形式を選択します。
LZ4 (デフォルト):低い圧縮率、高い圧縮速度。
GZIP:高い圧縮率、低い圧縮速度。
説明高い CPU 消費。
Snappy:中程度の圧縮率、中程度の圧縮速度。
Kafka パーティションへのデータ転送ポリシー
ビジネス要件に基づいてポリシーを選択します。
重要ソースデータベースが PolarDB-X 1.0 インスタンスの場合、この機能はサポートされていません。
メッセージ肯定応答メカニズム
ビジネス要件に基づいてメッセージ確認応答メカニズムを選択します。
移行先インスタンスでのオブジェクト名の大文字化
ターゲットインスタンスのスキーマ、テーブル、および列の名前の大文字/小文字の区別ポリシーを設定できます。 デフォルトでは、DTS のデフォルトポリシー が選択されています。 オブジェクト名の大文字/小文字がソースまたはターゲットデータベースと一致するように、他のオプションを選択することもできます。 詳細については、「ターゲットインスタンスのオブジェクト名の大文字/小文字の区別」をご参照ください。
ソースオブジェクト
ソースオブジェクト セクションから 1 つ以上のオブジェクトを選択します。
アイコンをクリックし、オブジェクトを [選択したオブジェクト] セクションに追加します。説明移行オブジェクトを選択する粒度は、スキーマ、テーブル、および列です。 移行オブジェクトとしてテーブルまたは列のみを選択した場合、ビュー、トリガー、ストアドプロシージャなどの他のオブジェクトはターゲットデータベースに移行されません。
[選択済みオブジェクト]
この例では追加の設定は不要です。 マッピング機能を使用して、ターゲットの Kafka インスタンスでソーステーブルのトピック名、パーティション数、パーティションキー、およびその他の情報を設定できます。 詳細については、「情報のマッピング」をご参照ください。
説明オブジェクト名マッピング機能を使用する場合、マッピングされたオブジェクトに依存する他のオブジェクトの移行に失敗する可能性があります。
増分データ移行の SQL 操作を選択するには、選択中のオブジェクト ボックス内のオブジェクトを右クリックし、表示されるダイアログボックスで目的の SQL 操作を選択します。
詳細設定へ をクリックして、詳細パラメーターを設定します。
パラメーター
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、DTS は共有クラスターでタスクをスケジュールします。 選択する必要はありません。 より安定したタスクが必要な場合は、DTS 移行タスクを実行するために専用クラスターを購入できます。
失敗した接続の再試行時間
移行タスクが開始された後、ソースまたはターゲットデータベースへの接続に失敗した場合、DTS はエラーを報告し、すぐに接続の再試行を開始します。 デフォルトの再試行期間は 720 分です。 再試行時間は 10 分から 1440 分の間でカスタマイズできます。 期間を 30 分以上に設定することを推奨します。 指定された期間内に DTS がソースおよびターゲットデータベースに再接続した場合、移行タスクは自動的に再開されます。 そうでない場合、タスクは失敗します。
説明同じソースまたはターゲットを共有する複数の DTS インスタンスの場合、ネットワークの再試行時間は最後に作成されたタスクの設定によって決まります。
接続再試行期間中もタスクは課金されるため、ビジネスニーズに応じて再試行時間をカスタマイズするか、ソースおよびターゲットデータベースインスタンスがリリースされた後、できるだけ早く DTS インスタンスをリリースすることを推奨します。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
移行タスクが開始された後、DDL または DML 実行例外などの非接続性の問題がソースまたはターゲットデータベースで発生した場合、DTS はエラーを報告し、すぐに操作の再試行を開始します。 デフォルトの再試行期間は 10 分です。 再試行時間は 1 分から 1440 分の間でカスタマイズできます。 期間を 10 分以上に設定することを推奨します。 指定された再試行期間内に関連操作が成功した場合、移行タスクは自動的に再開されます。 そうでない場合、タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値より小さくする必要があります。
完全なデータ移行のためのスロットリングを有効化
完全移行中、DTS はソースおよびターゲットデータベースの読み取りおよび書き込みリソースを消費し、データベースの負荷を増加させる可能性があります。 必要に応じて、完全移行タスクの速度制限を有効にできます。 1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS を設定して、ターゲットデータベースの負荷を軽減できます。
説明この設定項目は、移行タイプ で 完全データ移行 を選択した場合にのみ利用できます。
データ移行インスタンスの実行後に完全移行速度を調整することもできます。
完全なデータ移行のスロットリングを有効化
必要に応じて、増分移行タスクの速度制限を設定することもできます。 1 秒あたりの増分移行の行数 RPS と 1 秒あたりの増分移行データ量 (MB) BPS を設定して、ターゲットデータベースの負荷を軽減できます。
説明この設定項目は、移行タイプ で 増分データ移行 を選択した場合にのみ利用できます。
データ移行インスタンスの実行後に増分移行速度を調整することもできます。
環境タグ
必要に応じて、インスタンスを識別するために環境タグを選択できます。 この例では選択は不要です。
ETL 機能の設定
抽出・変換・書き出し (ETL) 機能を有効にするかどうかを選択します。 詳細については、「ETL とは?」をご参照ください。 有効な値:
-
○:ETL 機能を有効にします。 コードエディタにデータ処理ステートメントを入力します。 詳細については、「データ移行またはデータ同期タスクで ETL を設定する」をご参照ください。
-
×:ETL 機能を無効にします。
順方向および逆方向タスクのハートビートテーブル SQL を削除
DTS インスタンスの実行中に、ハートビート SQL 情報をソースデータベースに書き込むかどうかを選択します。
-
○:ハートビート SQL 情報はソースデータベースに書き込まれません。 これにより、DTS インスタンスが遅延を報告する可能性があります。
-
×:ハートビート SQL 情報をソースデータベースに書き込みます。 これにより、ソースデータベースの物理バックアップやクローニングなどの機能に干渉する可能性があります。
監視アラート
ビジネス要件に基づいて、アラートを設定し、アラート通知を受信するかどうかを選択します。
×:アラートを設定しません。
○:アラートのしきい値とアラート通知を設定してアラートを構成します。 移行が失敗した場合やレイテンシがしきい値を超えた場合に、システムはアラート通知を送信します。
タスクを保存し、事前チェックを実行します。
API オペレーションを呼び出す際にこのインスタンスを設定するためのパラメーターを表示するには、次:タスク設定の保存と事前チェック ボタンにポインターを合わせ、表示されるバブルで OpenAPI パラメーターのプレビュー をクリックします。
API パラメーターを表示する必要がない場合、または表示が完了した場合は、ページ下部の 次:タスク設定の保存と事前チェック をクリックします。
説明移行タスクが開始される前に、DTS は事前チェックを実行します。 タスクは事前チェックに合格した後にのみ開始されます。
事前チェックに失敗した場合は、失敗した確認項目の横にある 詳細を表示 をクリックし、プロンプトに基づいて問題を修正してから、再度事前チェックを実行します。
事前チェック中に警告が報告された場合:
無視できない確認項目については、失敗した項目の横にある 詳細を表示 をクリックし、プロンプトに基づいて問題を修正してから、再度事前チェックを実行します。
無視できる確認項目については、アラートの詳細を確認、無視、OK、再度事前チェックを実行 をクリックして、アラート項目をスキップし、再度事前チェックを実行できます。 警告を無視することを選択した場合、データの不整合などの問題が発生し、ビジネスにリスクをもたらす可能性があります。
インスタンスを購入します。
成功率 が 100% の場合、次:インスタンスの購入 をクリックします。
購入 ページで、データ移行インスタンスのリンク仕様を選択します。 詳細については、次の表をご参照ください。
カテゴリ
パラメーター
説明
新しいインスタンスクラス
リソースグループの設定
インスタンスが属するリソースグループを選択します。 デフォルト値はデフォルトリソースグループです。 詳細については、「リソース管理とは?」をご参照ください。
インスタンスクラス
DTS は、異なるパフォーマンスレベルの移行仕様を提供します。 リンク仕様は移行速度に影響します。 ビジネスシナリオに基づいて仕様を選択できます。 詳細については、「データ移行リンク仕様」をご参照ください。
設定が完了したら、Data Transmission Service (従量課金) 利用規約 を読んで選択します。
購入して起動 をクリックします。 表示される OK ダイアログボックスで、[OK] をクリックします。
データ移行タスク リストページで移行タスクの進捗状況を確認できます。
説明移行タスクに増分移行が含まれていない場合、完全移行が完了した後に自動的に停止します。 タスクが停止すると、その ステータス は 完了 に変わります。
移行タスクに増分移行が含まれている場合、自動的に停止しません。 増分移行タスクは実行を続けます。 増分移行タスクの実行中、タスクの ステータス は 実行中 です。
マッピング設定
選択中のオブジェクト エリアで、ターゲットのトピック名にポインターを合わせます。
編集 をクリックします。
テーブルの編集 ダイアログボックスで、マッピング設定を構成します。
説明データベースレベルでは、スキーマの編集 ダイアログボックスが表示され、パラメーターが少なくなります。 テーブルレベルでは、テーブルの編集 ダイアログボックスが表示されます。
データベース全体を移行しない場合、パーティション数 ダイアログボックスの スキーマの編集 および 対象トピックの名前 パラメーターは変更できません。
パラメーター
説明
対象トピックの名前
ソーステーブルのターゲットトピックの名前。 デフォルトでは、これは ソースデータベースとターゲットデータベースの設定 ステップの 移行先データベース で選択した トピック です。
重要ターゲットデータベースが Message Queue for Apache Kafka インスタンスの場合、入力するトピック名はターゲットの Kafka インスタンスに存在する必要があります。 そうでない場合、データ移行は失敗します。 ターゲットデータベースが自己管理 Kafka インスタンスで、タスクにスキーマ移行タスクが含まれている場合、DTS は指定したトピックをターゲットデータベースに作成しようとします。
対象トピックの名前 を変更すると、DTS は指定したトピックにデータを書き込みます。
フィルタリング条件
詳細については、「フィルター条件の設定」をご参照ください。
パーティション数
ターゲットトピックのパーティション数。
パーティションキー
Kafka パーティションへのデータ転送ポリシー が 主キーのハッシュ値に基づいて、データを個別のパーティションに転送 に設定されている場合、このパラメーターを設定できます。 1 つ以上の列をパーティションキーとして指定します。 DTS はキーからハッシュ値を計算し、それを使用してターゲットトピックのパーティションに行を分散します。
説明パーティションキー は、テーブルの編集 ダイアログボックスでのみ選択できます。
確かですか をクリックします。