ApsaraDB for SelectDB は、大量のデータに対するクエリに数秒以内で応答し、数万件の同時ポイントクエリを処理し、高スループットで複雑な分析を実行できます。Data Transmission Service (DTS) を使用すると、自己管理 MySQL データベースまたは ApsaraDB RDS for MySQL インスタンスから ApsaraDB for SelectDB インスタンスにデータを同期できます。これは、大量のデータの分析に役立ちます。このトピックでは、DTS を使用して ApsaraDB RDS for MySQL インスタンスから ApsaraDB for SelectDB インスタンスにデータを同期する方法について説明します。
前提条件
宛先 ApsaraDB for SelectDB インスタンスが作成されていること。このインスタンスの使用可能なストレージ容量が、ソース ApsaraDB RDS for MySQL インスタンスのデータ総容量よりも大きいこと。詳細については、「インスタンスの作成」をご参照ください。
制限事項
制限タイプ | 説明 |
ソースデータベースの制限 |
|
その他の制限 |
|
特別なケース |
|
課金
同期タイプ | タスク構成料金 |
スキーマ同期と完全データ同期 | 無料。 |
増分データ同期 | 有料。詳細については、「課金の概要」をご参照ください。 |
増分同期をサポートする SQL 操作
操作タイプ | SQL 文 |
DML | INSERT、UPDATE、および DELETE |
DDL |
|
データベースアカウントに必要な権限
データベース | 必要な権限 | 参照 |
ソース ApsaraDB RDS for MySQL インスタンス | 同期対象オブジェクトに対する読み取りおよび書き込み権限 | アカウントの作成 および アカウント権限の変更 |
宛先 ApsaraDB for SelectDB インスタンス | USAGE_PRIV 権限と、次の読み取りおよび書き込み権限: SELECT_PRIV、LOAD_PRIV、ALTER_PRIV、CREATE_PRIV、および DROP_PRIV。 |
使用するソースデータベースアカウントが ApsaraDB RDS for MySQL コンソールで作成および権限付与されていない場合は、アカウントに REPLICATION CLIENT、REPLICATION SLAVE、SHOW VIEW、および SELECT 権限があることを確認してください。
手順
次のいずれかの方法を使用してデータ同期ページに移動し、データ同期インスタンスが存在するリージョンを選択します。
DTS コンソール
DTS コンソール にログインします。
左側のナビゲーションウィンドウで、データ同期 をクリックします。
ページの左上隅で、データ同期タスクが存在するリージョンを選択します。
DMS コンソール
説明実際の操作は、DMS コンソールのモードとレイアウトによって異なる場合があります。詳細については、「シンプルモード」および「DMS コンソールのレイアウトとスタイルのカスタマイズ」をご参照ください。
DMS コンソール にログインします。
上部のナビゲーションバーで、[データ + AI] にポインタを移動し、
を選択します。データ同期タスク の右側にあるドロップダウンリストから、データ同期インスタンスが存在するリージョンを選択します。
タスクの作成 をクリックして、タスク構成ページに移動します。
ソースデータベースと宛先データベースを構成します。次の表にパラメータを示します。
セクション
パラメータ
説明
なし
タスク名
DTS タスクの名前。 DTS はタスク名を自動的に生成します。タスクを簡単に識別できる説明的な名前を指定することをお勧めします。一意のタスク名を指定する必要はありません。
移行元データベース
[既存の接続を選択]
使用するインスタンス。ビジネス要件に基づいて既存のインスタンスを使用するかどうかを選択できます。
既存のインスタンスを選択すると、DTS はデータベースのパラメータを自動的に入力します。
既存のインスタンスを使用しない場合は、以下のデータベース情報を構成する必要があります。
説明データベース接続 ページまたは新しい構成ページでデータベースを DTS に登録できます。詳細については、「データベース接続の管理」をご参照ください。
DMS コンソールで、DMS データベースインスタンスの選択 ドロップダウンリストから既存のデータベースを選択できます。また、DMS データベースインスタンスの追加 をクリックするか、DMS コンソールのホームページに戻って DMS にデータベースを登録することもできます。詳細については、「Alibaba Cloud データベースインスタンスを登録する」および「サードパーティクラウドサービスまたは自己管理データベースでホストされているデータベースを登録する」をご参照ください。
データベースタイプ
ソースデータベースの種類です。MySQL を選択します。
アクセス方法
ソースデータベースのアクセス方法。 Alibaba Cloud インスタンス を選択します。
インスタンスのリージョン
ソース ApsaraDB RDS for MySQL インスタンスが存在するリージョンを選択します。
Alibaba Cloud アカウント間でデータを複製
Alibaba Cloud アカウント間でデータを同期するかどうかを指定します。この例では、× が選択されています。
RDS インスタンス ID
ソース ApsaraDB RDS for MySQL インスタンスの ID です。
データベースアカウント
ソース ApsaraDB RDS for MySQL インスタンスのデータベースアカウントです。アカウントに必要な権限については、このトピックの「データベースアカウントに必要な権限」セクションをご参照ください。
データベースのパスワード
データベースへのアクセスに使用するパスワードです。
暗号化
データベースへの接続を暗号化するかどうかを指定します。ビジネス要件に基づいて、[非暗号化] または [SSL 暗号化] を選択できます。このパラメーターを [SSL 暗号化] に設定する場合、DTS タスクを構成する前に、ApsaraDB RDS for MySQL インスタンスの SSL 暗号化を有効にする必要があります。詳細については、「クラウド証明書を構成して SSL 暗号化を有効にする」をご参照ください。
移行先データベース
[既存の接続を選択]
使用するインスタンス。ビジネス要件に基づいて既存のインスタンスを使用するかどうかを選択できます。
既存のインスタンスを選択すると、DTS はデータベースのパラメーターを自動的に入力します。
既存のインスタンスを使用しない場合は、以下のデータベース情報を設定する必要があります。
説明データベース接続 ページまたは新しい構成ページで DTS にデータベースを登録できます。詳細については、「データベース接続を管理する」をご参照ください。
DMS コンソールで、DMS データベースインスタンスの選択 ドロップダウンリストから既存のデータベースを選択できます。また、DMS データベースインスタンスの追加 をクリックするか、DMS コンソールのホームページに戻って DMS にデータベースを登録することもできます。詳細については、「Alibaba Cloud データベースインスタンスを登録する」および「サードパーティクラウドサービスまたは自己管理データベースでホストされているデータベースを登録する」をご参照ください。
データベースタイプ
接続先データベースのタイプ。 [SelectDB] を選択します。
アクセス方法
ターゲットデータベースのアクセス方法。 Alibaba Cloud インスタンス を選択します。
インスタンスのリージョン
移行先 ApsaraDB for SelectDB インスタンスが存在するリージョン。
Alibaba Cloud アカウント間でデータを複製
Alibaba Cloud アカウント間でデータを同期するかどうかを指定します。この例では、× が選択されています。
インスタンス ID
移行先 ApsaraDB for SelectDB インスタンスの ID です。
データベースアカウント
SelectDB インスタンスの接続先 ApsaraDB のデータベースアカウント。アカウントに必要な権限については、この Topic の「データベースアカウントに必要な権限」セクションをご参照ください。
データベースのパスワード
データベースへのアクセスに使用するパスワード。
ページの下部にある 接続をテストして続行 をクリックします。
説明DTS サーバーの CIDR ブロックが、DTS サーバーからのアクセスを許可するために、ソースデータベースとターゲットデータベースのセキュリティ設定に自動または手動で追加できることを確認してください。 詳細については、「DTS サーバーの CIDR ブロックを追加する」をご参照ください。
ソースデータベースまたはターゲットデータベースが自己管理データベースであり、その アクセス方法 が Alibaba Cloud インスタンス に設定されていない場合は、DTS サーバーの CIDR ブロック ダイアログボックスで 接続テスト をクリックします。
同期するオブジェクトを設定します。
オブジェクト設定 ステップで、同期するオブジェクトを設定します。
パラメーター
説明
同期タイプ
同期タイプ。デフォルトでは、[増分データ同期] が選択されています。[スキーマ同期] と [完全データ同期] も選択する必要があります。事前チェックが完了すると、DTS は選択したオブジェクトの既存データをソースデータベースから宛先クラスタに同期します。既存データは、後続の増分同期の基礎となります。
競合するテーブルの処理モード
エラーの事前チェックと報告: 宛先データベースにソースデータベースのテーブルと同じ名前のテーブルが含まれているかどうかを確認します。ソースデータベースと宛先データベースに同じテーブル名のテーブルが含まれていない場合、事前チェックは合格です。それ以外の場合、事前チェック中にエラーが返され、データ同期タスクを開始できません。
説明ソースデータベースと宛先データベースに同じ名前のテーブルが含まれていて、宛先データベースのテーブルを削除または名前変更できない場合は、オブジェクト名マッピング機能を使用して、宛先データベースに同期されるテーブルの名前を変更できます。詳細については、「オブジェクト名をマッピングする」をご参照ください。
エラーを無視して続行: ソースデータベースと宛先データベースの同じテーブル名の事前チェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスが潜在的なリスクにさらされる可能性があります。
ソースデータベースと宛先データベースのスキーマが同じで、宛先データベースのデータレコードのプライマリキー値または一意キー値がソースデータベースのデータレコードと同じである場合:
完全データ同期中、DTS はデータレコードを宛先データベースに同期しません。宛先データベースの既存のデータレコードは保持されます。
増分データ同期中、DTS はデータレコードを宛先データベースに同期します。宛先データベースの既存のデータレコードは上書きされます。
ソースデータベースと宛先データベースのスキーマが異なる場合、データの初期化に失敗する可能性があります。この場合、一部の列のみが同期されるか、データ同期インスタンスが失敗します。注意して進めてください。
移行先インスタンスでのオブジェクト名の大文字化
宛先インスタンスのデータベース名、テーブル名、および列名の大文字と小文字の区別。デフォルトでは、[DTS デフォルトポリシー] が選択されています。オブジェクト名の大文字と小文字の区別がソースデータベースまたは宛先データベースと一致するように、他のオプションを選択できます。詳細については、「宛先インスタンスのオブジェクト名の大文字と小文字の区別を指定する」をご参照ください。
ソースオブジェクト
ソースオブジェクト セクションから 1 つ以上のオブジェクトを選択し、
アイコンをクリックして、選択中のオブジェクト セクションにオブジェクトを追加します。
説明データベース、テーブル、または列を同期するオブジェクトとして選択できます。
選択中のオブジェクト
宛先インスタンスに同期するオブジェクトの名前を変更するには、選択中のオブジェクト セクションでオブジェクトを右クリックします。詳細については、「オブジェクト名をマッピングする」トピックの「単一オブジェクトの名前をマッピングする」セクションを参照してください。
[同期タイプ] パラメーターで [スキーマ同期] を選択した場合、同期対象のオブジェクトとしてテーブルのみを選択でき、
bucket_count
パラメーターを設定する必要があります。[選択済みオブジェクト] セクションで移行するテーブルを右クリックし、表示される [パラメーター設定] セクションの [パラメーター設定を有効にする] パラメーターで [はい] を選択し、ビジネス要件に基づいて [値] を指定し、[OK] をクリックします。
説明特定のデータベースまたはテーブルで実行される SQL 操作を選択するには、選択中のオブジェクト セクションでオブジェクトを右クリックします。表示されるダイアログボックスで、同期する SQL 操作を選択します。
データをフィルタリングする WHERE 条件を指定するには、選択中のオブジェクト セクションでテーブルを右クリックします。表示されるダイアログボックスで、条件を指定します。詳細については、「フィルター条件を指定する」をご参照ください。
オブジェクト名マッピング機能を使用してオブジェクトの名前を変更すると、そのオブジェクトに依存する他のオブジェクトの同期に失敗する可能性があります。
次へ:詳細設定 をクリックして、詳細設定を行います。
パラメーター
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、専用クラスタを指定しない場合、DTS はタスクを共有クラスタにスケジュールします。データ同期インスタンスの安定性を向上させるには、専用クラスタを購入します。詳細については、「DTS 専用クラスタとは」をご参照ください。
失敗した接続の再試行時間
接続失敗時の再試行時間の範囲。データ同期タスクの開始後にソースデータベースまたは宛先データベースに接続できない場合、DTS は指定された時間範囲内で直ちに接続を再試行します。有効値: 10 ~ 1440 。単位: 分。デフォルト値: 720 。このパラメーターは 30 より大きい値に設定することをお勧めします。指定された時間範囲内に DTS がソースデータベースと宛先データベースに再接続すると、DTS はデータ同期タスクを再開します。それ以外の場合、データ同期タスクは失敗します。
説明同じソースデータベースまたは宛先データベースを持つ複数のデータ同期タスクに異なる再試行時間の範囲を指定した場合、最も短い再試行時間の範囲が優先されます。
DTS が接続を再試行すると、DTS インスタンスの料金が発生します。ビジネス要件に基づいて再試行時間の範囲を指定することをお勧めします。また、ソースインスタンスと宛先インスタンスが解放された後、できるだけ早く DTS インスタンスを解放することもできます。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
その他の問題の再試行時間の範囲。たとえば、データ同期タスクの開始後に DDL 操作または DML 操作の実行に失敗した場合、DTS は指定された時間範囲内で直ちに操作を再試行します。有効値: 1 ~ 1440 。単位: 分。デフォルト値: 10 。このパラメーターは 10 より大きい値に設定することをお勧めします。指定された時間範囲内に失敗した操作が正常に実行されると、DTS はデータ同期タスクを再開します。それ以外の場合、データ同期タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 パラメーターの値は、失敗した接続の再試行時間 パラメーターの値よりも小さくする必要があります。
完全同期レートを制限するかどうか
完全データ同期中、DTS はソースデータベースと宛先データベースの読み取りリソースと書き込みリソースを使用します。これにより、データベースサーバーの負荷が増加する可能性があります。宛先データベースサーバーの負荷を軽減するために、完全データ同期タスクの 1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS パラメーターを設定できます。
説明完全データ同期 が 同期タイプ パラメーターに選択されている場合にのみ、このパラメーターを設定できます。
増分同期率を制限するかどうか
増分データ同期の速度制限を有効にするかどうかを指定します。ビジネス要件に基づいて、増分データ同期の速度制限を有効にすることができます。速度制限を設定するには、1 秒あたりの増分同期の行数 RPS パラメーターと 1 秒あたりの増分同期データ量 (MB) BPS パラメーターを設定する必要があります。これにより、宛先データベースサーバーの負荷が軽減されます。
環境タグ
DTS インスタンスを識別するために使用される環境タグ。ビジネス要件に基づいて環境タグを選択できます。この例では、環境タグは選択されていません。
順方向および逆方向タスクのハートビートテーブル sql を削除
DTS インスタンスの実行中に、ハートビートテーブルに対する SQL 操作をソースデータベースに書き込むかどうかを指定します。有効値:
[はい]: ハートビートテーブルに対する SQL 操作を書き込みません。この場合、DTS インスタンスのレイテンシが表示される場合があります。
[いいえ]: ハートビートテーブルに対する SQL 操作を書き込みます。この場合、ソースデータベースの物理バックアップやクローニングなどの機能が影響を受ける可能性があります。
ETL の設定
抽出、変換、書き出し (ETL) 機能を有効にするかどうかを指定します。詳細については、「ETL とは」をご参照ください。有効値:
[はい]: ETL 機能を設定します。コードエディタにデータ処理文を入力できます。詳細については、「データ移行タスクまたはデータ同期タスクで ETL を設定する」をご参照ください。
[いいえ]: ETL 機能を設定しません。
監視アラート
データ同期インスタンスのアラートを設定するかどうかを指定します。タスクが失敗した場合、または同期レイテンシが指定されたしきい値を超えた場合、アラート連絡先に通知が送信されます。有効値:
[いいえ]: アラートを有効にしません。
[はい]: アラートを設定します。この場合、アラートのしきい値と アラート通知設定 も設定する必要があります。詳細については、「監視とアラートを設定する」トピックの「DTS タスクの作成時に監視とアラートを設定する」セクションを参照してください。
オプション。 ページの下部にある 次:データベースおよびテーブルのフィールド設定 をクリックします。表示されるダイアログボックスで、同期するテーブルの プライマリキー列の追加、配布キー、および エンジンの選択 パラメーターを指定します。
説明このステップは、同期タイプ パラメーターで スキーマ同期 を選択した場合にのみ使用できます。定義ステータス を すべて に設定し、データベースフィールドとテーブルフィールドを変更できます。
ドロップダウンリストから プライマリキー列の追加 パラメーターに複数の列を選択できます。プライマリキー列の追加 パラメーターに指定された 1 つ以上の列を 配布キー パラメーターに選択できます。
テーブルにプライマリキーまたは一意制約がない場合は、[重複] を [エンジン] パラメーターに選択します。 そうしないと、データ同期タスクが失敗したり、データが失われたりする可能性があります。
タスク設定を保存し、事前チェックを実行します。
DTS タスクを設定するために関連 API 操作を呼び出すときに指定するパラメーターを表示するには、次:タスク設定の保存と事前チェック にポインターを移動し、OpenAPI パラメーターのプレビュー をクリックします。
パラメーターを表示する必要がない場合、またはすでに表示済みの場合は、ページ下部にある 次:タスク設定の保存と事前チェック をクリックします。
説明データ同期タスクを開始する前に、DTS は事前チェックを実行します。タスクが事前チェックに合格した後にのみ、データ同期タスクを開始できます。
データ同期タスクが事前チェックに失敗した場合は、失敗した各項目の横にある [詳細の表示] をクリックします。チェック結果に基づいて原因を分析した後、問題をトラブルシューティングします。その後、事前チェックを再実行します。
事前チェック中に項目に対してアラートがトリガーされた場合:
アラート項目を無視できない場合は、失敗した項目の横にある [詳細の表示] をクリックして、問題をトラブルシューティングします。次に、事前チェックを再度実行します。
アラート項目を無視できる場合は、[アラートの詳細の確認] をクリックします。 [詳細の表示] ダイアログボックスで、[無視] をクリックします。表示されるメッセージで、[OK] をクリックします。次に、[再チェック] をクリックして、事前チェックを再度実行します。アラート項目を無視すると、データの不整合が発生し、ビジネスが潜在的なリスクにさらされる可能性があります。
インスタンスを購入します。
[成功率] が [100%] になるまで待ちます。次に、[次へ: インスタンスの購入] をクリックします。
[購入] ページで、データ同期タスクの課金方法とインスタンスクラスのパラメーターを設定します。次の表にパラメーターを示します。
セクション
パラメーター
説明
新しいインスタンスクラス
課金方法
サブスクリプション: データ同期インスタンスを作成するときにサブスクリプション料金を支払います。サブスクリプション課金方法は、長期使用の場合、従量課金方法よりも費用対効果が高くなります。
従量課金: 従量課金インスタンスは時間単位で課金されます。従量課金方法は、短期使用に適しています。従量課金データ同期インスタンスが不要になった場合は、インスタンスをリリースしてコストを削減できます。
リソースグループ設定
データ同期インスタンスが属するリソースグループ。デフォルト値: [デフォルトのリソースグループ]。詳細については、「リソース管理とは」をご参照ください。
インスタンスクラス
DTS は、同期速度が異なるインスタンスクラスを提供します。ビジネス要件に基づいてインスタンスクラスを選択できます。詳細については、「データ同期インスタンスのインスタンスクラス」をご参照ください。
サブスクリプション期間
サブスクリプション課金方法を選択した場合は、サブスクリプション期間と作成するデータ同期インスタンスの数を指定します。サブスクリプション期間は、1~9か月、1年、2年、3年、または5年です。
説明このパラメーターは、サブスクリプション 課金方法を選択した場合にのみ使用できます。
[Data Transmission Service (従量課金) サービス規約] を読んで選択します。
[購入して開始] をクリックします。表示されるダイアログボックスで、OK をクリックします。
タスクの進行状況はタスクリストで確認できます。
データ型マッピング
カテゴリ | ApsaraDB RDS for MySQL のデータ型 | ApsaraDB for SelectDB のデータ型 |
数値 | TINYINT | TINYINT |
TINYINT UNSIGNED | SMALLINT | |
SMALLINT | SMALLINT | |
SMALLINT UNSIGNED | INT | |
MEDIUMINT | INT | |
MEDIUMINT UNSIGNED | BIGINT | |
INT | INT | |
INT UNSIGNED | BIGINT | |
BIGINT | BIGINT | |
BIGINT UNSIGNED | LARGEINT | |
BIT(M) | INT | |
Decimal | Decimal 説明 ZEROFILL はサポートされていません。 | |
Numeric | Decimal | |
Float | Float | |
Double | DOUBLE | |
| BOOLEAN | |
日付と時刻 | DATE | DATEV2 |
DATETIME[(fsp)] | DATETIMEV2 | |
Timestamp[(fsp)] | DATETIMEV2 | |
Time[(fsp)] | VARCHAR | |
YEAR[(4)] | INT | |
文字列 |
| VARCHAR 重要 データ損失を避けるため、CHAR 型および VARCHAR(n) 型のデータは、SelectDB インスタンスに同期された後、VARCHAR(4*n) に変換されます。
|
| STRING | |
| STRING | |
| STRING | |
ENUM | STRING | |
SET | STRING | |
JSON | STRING |
追加の列
次の表に、重複キーモデルで DTS によって自動的に作成されるか、手動で追加する追加の列を示します。
列 | タイプ | デフォルト値 | 説明 |
_is_deleted | Int | 0 | データが削除されているかどうかを指定します。
|
_version | Bigint | 0 |
|
_record_id | Bigint | 0 |
|