Data Transmission Service:PolarDB for MySQL クラスターから自己管理型 Doris データベースへのデータ同期

前提条件

ターゲットとなる Doris データベースが作成済みであること。このデータベースの利用可能なストレージ容量は、ソースの PolarDB for MySQL クラスターが使用するストレージ容量よりも大きい必要があります。

注意事項

課金

増分同期をサポートする SQL 操作

データベースアカウントに必要な権限

操作手順

1. ターゲットリージョンのデータ同期タスクリストページに移動します。次のいずれかの方法を使用できます。

   DTS コンソールから

   1. DTS コンソールにログインします。

   2. 左側のナビゲーションウィンドウで、データ同期 をクリックします。

   3. ページの左上隅で、同期インスタンスが配置されているリージョンを選択します。

   DMS コンソールから

   説明

   実際の操作は、DMS コンソールのモードとレイアウトによって異なる場合があります。詳細については、「シンプルモードコンソール」および「DMS コンソールのレイアウトとスタイルのカスタマイズ」をご参照ください。

   1. DMS コンソールにログインします。

   2. トップメニューバーから、[データ + AI] > [Data Transmission (DTS)] > [データ同期] を選択します。

   3. データ同期タスク の右側で、同期インスタンスのリージョンを選択します。

2. タスクの作成 をクリックして、タスク設定ページに移動します。

3. ソースデータベースとターゲットデータベースを設定します。次の表にパラメーターを示します。

   カテゴリ	設定	説明
   N/A	タスク名	DTS は自動的にタスク名を生成します。簡単に識別できるように、わかりやすい名前を指定することを推奨します。名前は一意である必要はありません。
   移行元データベース	既存の接続情報の選択	システムに登録されている (新規作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストから目的のデータベースインスタンスを選択します。以下のデータベース情報が自動的に設定されます。 説明 DMS コンソールでは、この設定項目は DMS データベースインスタンスの選択 です。 データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
   	データベースタイプ	PolarDB for MySQL を選択します。
   	アクセス方法	Alibaba Cloud インスタンス を選択します。
   	インスタンスのリージョン	ソースの PolarDB for MySQL クラスターが存在するリージョンを選択します。
   	Alibaba Cloud アカウント間でデータを複製	この例では、現在の Alibaba Cloud アカウント下のデータベースインスタンスを使用します。× を選択します。
   	PolarDB クラスター ID	ソースの PolarDB for MySQL クラスターの ID を選択します。
   	データベースアカウント	ソースの PolarDB for MySQL クラスターのデータベースアカウントを入力します。必要な権限の詳細については、「データベースアカウントに必要な権限」をご参照ください。
   	データベースのパスワード	データベースアカウントに対応するパスワードを入力します。
   	暗号化	必要に応じて接続方法を選択します。Secure Sockets Layer (SSL) 暗号化の詳細については、「SSL 暗号化の設定」をご参照ください。
   移行先データベース	既存の接続情報の選択	システムに登録されている (新規作成または保存された) データベースインスタンスを使用するには、ドロップダウンリストから目的のデータベースインスタンスを選択します。以下のデータベース情報が自動的に設定されます。 説明 DMS コンソールでは、この設定項目は DMS データベースインスタンスの選択 です。 データベースインスタンスをシステムに登録していない場合、または登録済みのインスタンスを使用する必要がない場合は、以下のデータベース情報を手動で設定します。
   	データベースタイプ	[Doris] を選択します。
   	アクセス方法	ターゲットデータベースのデプロイ場所に基づいてアクセス方法を選択します。この例では ECS 上の自己管理データベース を使用します。 説明 他のアクセス方法を使用して自己管理データベースを DTS に接続する場合は、準備が必要です。詳細については、「事前準備」をご参照ください。
   	インスタンスのリージョン	ターゲットの Doris データベースが存在するリージョンを選択します。
   	ECS インスタンス ID	ターゲットの Doris データベースが存在する ECS インスタンスの ID を選択します。 説明 ターゲットの Doris データベースが複数の ECS インスタンスにデプロイされている場合 (たとえば、BE または FE ノードが他の ECS インスタンスにデプロイされている場合)、ノードがデプロイされている各 ECS インスタンスのセキュリティルールに DTS サーバーの CIDR ブロックを手動で追加する必要があります。
   	ポート番号	ターゲットの Doris データベースのサービスポートを入力します。デフォルト値は 9030 です。
   	データベースアカウント	ターゲットの Doris データベースのデータベースアカウントを入力します。必要な権限の詳細については、「データベースアカウントに必要な権限」をご参照ください。
   	データベースのパスワード	データベースアカウントに対応するパスワードを入力します。

4. 設定が完了したら、ページ下部の 接続をテストして続行 をクリックします。DTS サーバーの CIDR ブロック ダイアログボックスで、接続テスト をクリックします。

   説明

   DTS サービス の IP アドレスブロックが、DTS サーバーからのアクセスを許可するために、ソースデータベースとターゲットデータベースのセキュリティ設定に自動または手動で追加されていることを確認してください。詳細については、「DTS サーバーの IP アドレスホワイトリストの追加」をご参照ください。

5. タスクオブジェクトを設定します。

   1. オブジェクト設定 ページで、同期するオブジェクトを設定できます。

      設定	説明
      同期タイプ	[増分同期] がデフォルトで選択されています。また、[スキーマ同期] と [完全データ同期] を選択する必要があります。事前チェックが完了すると、DTS はソースインスタンスの完全データでターゲットクラスターの同期オブジェクトを初期化します。このデータは、後続の増分同期のベースラインとして機能します。 重要 PolarDB for MySQL クラスターから Doris データベースにデータを同期する場合、データ型が変換されます。スキーマ同期 を選択しない場合は、事前にターゲットの Doris データベースに Unique または Duplicate モデルを使用するテーブルを作成する必要があります。詳細については、「データ型のマッピング」、「追加列情報」、および「Unique Key モデル」をご参照ください。
      競合するテーブルの処理モード	エラーの事前チェックと報告：ターゲットデータベースに同じ名前のテーブルが存在するかどうかをチェックします。同じ名前のテーブルが存在しない場合、チェックは成功します。同じ名前のテーブルが存在する場合、事前チェックは失敗し、データ同期タスクは開始されません。 説明 ターゲットデータベースで同じ名前のテーブルを削除または名前変更できない場合は、ターゲットデータベースで別のテーブル名にマッピングできます。詳細については、「スキーマ、テーブル、列のマッピング」をご参照ください。 エラーを無視して続行：ターゲットデータベースで同じ名前のテーブルのチェックをスキップします。 警告 エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスにリスクをもたらす可能性があります。例： テーブルスキーマが同じで、ターゲットデータベースのレコードがソースデータベースのレコードと同じプライマリキーまたは一意キーの値を持つ場合、ソースデータベースのレコードがターゲットデータベースのレコードを上書きします。 テーブルスキーマが異なる場合、データの初期化に失敗したり、一部の列のデータしか同期できなかったり、同期が失敗したりする可能性があります。注意して進めてください。
      移行先インスタンスでのオブジェクト名の大文字化	ターゲットインスタンスのデータベース、テーブル、列オブジェクトの名前の大文字/小文字ポリシーを設定できます。デフォルトでは、[DTS のデフォルトポリシー] が選択されています。ソースまたはターゲットデータベースのデフォルトポリシーを使用することも選択できます。詳細については、「ターゲットオブジェクト名の大文字/小文字ポリシー」をご参照ください。
      ソースオブジェクト	ソースオブジェクト ボックスでオブジェクトをクリックし、 をクリックして 選択中のオブジェクト ボックスに移動します。 説明 同期オブジェクトとしてデータベースまたはテーブルを選択できます。
      選択中のオブジェクト	ターゲットインスタンスで同期オブジェクトの名前を変更するには、選択中のオブジェクト ボックスでオブジェクトを右クリックします。名前の設定方法の詳細については、「スキーマ、テーブル、列のマッピング」をご参照ください。 同期タイプ で スキーマ同期 を選択し、テーブルレベルでオブジェクトを選択し、バケット数 (bucket_count パラメーター) を設定する必要がある場合は、選択中のオブジェクト ボックスでテーブルを右クリックします。パラメーター設定 セクションで、パラメーター設定の有効化 を ○ に設定し、パラメーター値 を必要に応じて設定し、[OK] をクリックします。 説明 データベースまたはテーブルレベルで増分同期の SQL 操作を選択するには、選択中のオブジェクト ボックスで同期オブジェクトを右クリックし、表示されるダイアログボックスで目的の SQL 操作を選択します。 データをフィルタリングするために WHERE 句を設定するには、選択中のオブジェクト ボックスで同期したいテーブルを右クリックし、表示されるダイアログボックスでフィルター条件を設定します。フィルター条件の設定方法の詳細については、「フィルター条件の設定」をご参照ください。 オブジェクト名マッピング機能を使用する場合、マッピングされたオブジェクトに依存する他のオブジェクトの同期が失敗する可能性があります。

   2. 詳細設定へ をクリックします。

      設定	説明
      タスクのスケジュールに使用する専用クラスターの選択	デフォルトでは、DTS は共有クラスターでタスクをスケジュールするため、選択する必要はありません。タスクの安定性を高めるために、専用クラスターを購入して DTS 同期タスクを実行できます。詳細については、「DTS 専用クラスターとは」をご参照ください。
      失敗した接続の再試行時間	同期タスクの開始後にソースまたはターゲットデータベースへの接続が失敗した場合、DTS はエラーを報告し、すぐに接続のリトライを開始します。デフォルトのリトライ時間は 720 分です。リトライ時間は 10 分から 1,440 分の間でカスタマイズできます。30 分以上の設定を推奨します。指定されたリトライ時間内に DTS が再接続した場合、タスクは自動的に再開されます。そうでない場合、タスクは失敗します。 説明 同じソースまたはターゲットを持つ複数の DTS インスタンス (DTS インスタンス A と DTS インスタンス B など) の場合、A のネットワークリトライ時間が 30 分、B が 60 分に設定されていると、短い方の 30 分が適用されます。 DTS は接続リトライ中のタスク実行時間に対して課金するため、ビジネスニーズに基づいてリトライ時間をカスタマイズするか、ソースおよびターゲットデータベースインスタンスがリリースされた後、できるだけ早く DTS インスタンスをリリースすることを推奨します。
      移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。	同期タスクの開始後、DDL または DML の実行エラーなど、ソースまたはターゲットデータベースで接続以外の問題が発生した場合、DTS はエラーを報告し、すぐに連続リトライ操作を開始します。デフォルトのリトライ時間は 10 分です。リトライ時間は 1 分から 1,440 分の間でカスタマイズすることもできます。10 分以上の設定を推奨します。設定されたリトライ時間内に関連操作が成功した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。 重要 移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値より小さくする必要があります。
      完全同期レートを制限するかどうか	完全データ同期フェーズ中、DTS はソースおよびターゲットデータベースの読み取りおよび書き込みリソースを消費し、それらの負荷を増加させる可能性があります。1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS を設定することで、完全データ同期タスクのレート制限を設定し、ターゲットデータベースへの圧力を軽減できます。 説明 この設定項目は、同期タイプ が 完全データ同期 に設定されている場合にのみ利用可能です。 同期インスタンスの実行後に 完全データ同期のレートを調整することもできます。
      増分同期率を制限するかどうか	1 秒あたりの増分同期の行数 RPS と 1 秒あたりの増分同期データ量 (MB) BPS を設定することで、増分同期タスクのレート制限を設定し、ターゲットデータベースへの圧力を軽減することもできます。
      順方向および逆方向タスクのハートビートテーブル SQL を削除	ビジネスニーズに基づき、DTS インスタンスの実行中にハートビート SQL 情報をソースデータベースに書き込むかどうかを選択します。 [はい]：ハートビート SQL 情報はソースデータベースに書き込まれません。これにより、DTS インスタンスが遅延を報告する可能性があります。 [いいえ]：ハートビート SQL 情報をソースデータベースに書き込みます。これにより、ソースデータベースの物理バックアップやクローニングなどの機能に干渉する可能性があります。
      環境タグ	必要に応じて、インスタンスを識別するための環境タグを選択できます。この例では、タグを選択する必要はありません。
      ETL 機能の設定	抽出、変換、ロード (ETL) 機能を有効にするかどうかを指定します。詳細については、「ETL とは」をご参照ください。有効な値： [はい]：ETL 機能を設定します。コードエディタにデータ処理文を入力できます。詳細については、「データ移行またはデータ同期タスクでの ETL の設定」をご参照ください。 [いいえ]：ETL 機能を設定しません。
      監視アラート	アラートを設定するかどうかを指定します。同期が失敗した場合や、遅延が指定されたしきい値を超えた場合に、アラート連絡先に通知が送信されます。 [設定しない]：アラートは設定されません。 [設定]：アラートを設定します。アラートしきい値と アラート通知も設定する必要があります。詳細については、「タスク設定中のモニタリングとアラートの設定」をご参照ください。

   3. オプション：上記の設定が完了したら、次：データベースおよびテーブルのフィールド設定 をクリックして、ターゲットで同期するテーブルの プライマリキー列の追加、配布キー、および エンジンの選択 を設定します。

      説明

      • このステップは、タスクオブジェクトを設定する際に 同期タイプ で スキーマ同期 を選択した場合にのみ利用可能です。定義ステータス を すべて に設定してから設定を変更できます。

      • プライマリキー列の追加 では、複数の列を選択して複合プライマリキーを形成できます。プライマリキー列の追加 から 1 つ以上の列を選択して 配布キー として使用する必要があります。

      • プライマリキーも一意キーもないテーブルについては、エンジンの選択 を [duplicate] に設定する必要があります。そうしないと、インスタンスが失敗したり、データが失われたりする可能性があります。

6. タスクを保存して事前チェックを実行します。

   • API 操作でこのインスタンスを設定するためのパラメーターを表示するには、次：タスク設定の保存と事前チェック ボタンにマウスを合わせ、ツールチップの OpenAPI パラメーターのプレビュー をクリックします。

   • API パラメーターの表示が完了したら、ページ下部の 次：タスク設定の保存と事前チェック をクリックします。

   説明

   • 同期タスクが開始される前に、事前チェックが実行されます。タスクは事前チェックに合格した後にのみ開始できます。

   • 事前チェックが失敗した場合は、失敗した項目の横にある 詳細を表示 をクリックし、プロンプトに従って問題を解決してから、事前チェックを再実行します。

   • 事前チェック中に警告が生成された場合：

     • チェック項目が失敗し、無視できない場合は、項目の横にある 詳細を表示 をクリックします。その後、指示に従って問題を修正し、事前チェックを再実行します。

     • 無視できるチェック項目については、アラートの詳細を確認、無視、OK、再度事前チェックを実行 の順にクリックして警告をスキップし、事前チェックを再実行します。チェック項目の警告を無視すると、データの不整合などの問題が発生し、ビジネスにリスクをもたらす可能性があります。

7. インスタンスを購入します。

   1. 成功率 が 100% になったら、次：インスタンスの購入 をクリックします。

   2. 購入 ページで、データ同期インスタンスの課金方法とリンク仕様を選択します。詳細については、次の表をご参照ください。

      カテゴリ	パラメーター	説明
      新しいインスタンスクラス	課金方法	サブスクリプション：インスタンス作成時にお支払いいただきます。長期的なニーズに適しており、従量課金よりも手頃で、サブスクリプション期間が長いほど割引率が高くなります。 従量課金：時間単位で課金されます。短期的なニーズに適しています。使用後すぐにインスタンスをリリースしてコストを節約できます。
      	リソースグループ設定	インスタンスが属するリソースグループ。デフォルトは [デフォルトリソースグループ] です。詳細については、「Resource Management とは」をご参照ください。
      	リンク仕様	DTS は、異なるパフォーマンスレベルの同期仕様を提供します。リンク仕様は同期レートに影響します。ビジネスシナリオに基づいて選択できます。詳細については、「データ同期リンク仕様」をご参照ください。
      	サブスクリプション期間	サブスクリプションモードでは、サブスクリプションインスタンスの期間と数量を選択します。月次サブスクリプションでは 1～9 か月、年次サブスクリプションでは 1、2、3、または 5 年から選択できます。 説明 このオプションは、課金方法が サブスクリプション の場合にのみ表示されます。

   3. 設定が完了したら、Data Transmission Service (従量課金) 利用規約 を読み、選択します。

   4. 購入して起動 をクリックし、OK ダイアログボックスで [OK] をクリックします。

      データ同期ページでタスクの進捗状況を確認できます。

データ型のマッピング

追加列情報