Data Transmission Service:自己管理 Oracle データベースから Kafka への同期

前提条件

• ソースとなる自己管理 Oracle データベースと、宛先の Message Queue for Apache Kafka インスタンスが準備されていること。

  説明

  ソースデータベースおよび宛先インスタンスでサポートされるバージョンの詳細については、「データ同期シナリオの概要」をご参照ください。

• アーカイブログモードが有効になっており、アーカイブログの保持期間が適切に設定され、アクセス可能であること。詳細については、「ARCHIVELOG」をご参照ください。

• 自己管理 Oracle データベースで補足ログ、supplemental_log_data_pk、および supplemental_log_data_ui が有効になっていること。詳細については、「Supplemental Logging」をご参照ください。

• 宛先の Message Queue for Apache Kafka インスタンスのストレージ容量が、ソースの自己管理 Oracle データベースのデータ量よりも大きいこと。

• 宛先の Message Queue for Apache Kafka インスタンスに、同期データを受信するためのトピックが作成済みであること。詳細については、「ステップ 1：トピックの作成」をご参照ください。

• データ同期を開始する前に、ソースデータベースが Oracle の場合の Data Transmission Service (DTS) の機能と制限事項を確認し、Advanced Database & Application Migration (ADAM) を使用してデータベース評価を実施し、クラウド移行を円滑に進めてください。詳細については、「Oracle データベースの制限事項と事前準備」および「データベース評価の概要」をご参照ください。

制限事項

課金

単一レコードサイズの制限

Kafka に書き込める単一レコードの最大サイズは 10 MB です。ソースの行がこの制限を超える場合、DTS はサイズ超過のレコードを書き込めないため、タスクを中断します。このような場合は、そのテーブルを同期しないことを推奨します。どうしても同期する必要がある場合は、DTS タスクを構成して、大きなフィールドを含むカラムを除外してください。実行中のタスクの場合は、まず同期オブジェクトリストから該当テーブルを削除し、その後再度追加する際に、大きなフィールドを含むカラムを除外してください。

同期トポロジ

• 一方向 1 対 1 同期

• 一方向 1 対多同期

• 一方向 多対 1 同期

• 一方向カスケード同期

これらの同期トポロジおよび重要な注意事項の詳細については、「データ同期トポロジ」をご参照ください。

サポートされる SQL 操作

データベースアカウント権限

操作手順

1. 宛先リージョンの同期タスクリストページに移動します。以下の 2 つの方法のいずれかを使用できます。

   DTS コンソールから

   1. Data Transmission Service (DTS) コンソールにログインします。

   2. 左側のナビゲーションウィンドウで、データ同期 をクリックします。

   3. ページ左上隅で、同期インスタンスが配置されているリージョンを選択します。

   DMS コンソールから

   説明

   実際の操作は、DMS コンソールのモードおよびレイアウトによって異なる場合があります。詳細については、「シンプルモード」および「DMS インターフェイスのレイアウトとスタイルのカスタマイズ」をご参照ください。

   1. Data Management (DMS) にログインします。

   2. 上部メニューバーで、データ + AI > Data Transmission (DTS) > データ同期 を選択します。

   3. データ同期タスク の右側で、同期インスタンスが配置されているリージョンを選択します。

2. タスクの作成 をクリックして、タスク設定ページに移動します。

3. ソースおよび宛先データベースを設定します。

   カテゴリ	パラメーター	説明
   該当なし	タスク名	DTS が自動的にタスク名を生成します。識別しやすいように、わかりやすい名前を指定することを推奨します。名前は一意である必要はありません。
   ソースデータベース	データベースタイプ	Oracle を選択します。
   	アクセス方法	ソースデータベースのデプロイ場所に基づいてアクセス方法を選択します。この例では、ECS 上の自己管理型データベース を使用します。 説明 ソースインスタンスが自己管理データベースの場合、必要な事前準備を完了する必要があります。詳細については、「準備の概要」をご参照ください。
   	インスタンスリージョン	自己管理 Oracle データベースが配置されているリージョンを選択します。
   	ECS インスタンス ID	自己管理 Oracle データベースをホストする ECS インスタンスの ID を選択します。
   	ポート番号	自己管理 Oracle データベースのサービスポートを入力します。デフォルト値は 1521 です。
   	Oracle の型	Non-RAC Instance：このオプションを選択した場合、SID も入力する必要があります。 RAC または PDB インスタンス：このオプションを選択した場合、サービス名 も入力する必要があります。 重要 オプションのラベルは「RAC または PDB インスタンス」となっていますが、RAC インスタンスはサポートされていません。 この例では、Non-RAC Instance を使用します。
   	データベースアカウント	自己管理 Oracle データベースのデータベースアカウントを入力します。必要な権限の詳細については、「データベースアカウントに必要な権限」をご参照ください。
   	データベースパスワード	データベースアカウントに対応するパスワードを入力します。
   宛先データベース	データベースタイプ	Kafka を選択します。
   	アクセス方法	Express Connect、VPN Gateway、または Smart Access Gateway を選択します。 説明 このシナリオでは、Message Queue for Apache Kafka インスタンスが同期インスタンスの自己管理 Kafka データベースとして機能します。
   	インスタンスリージョン	宛先の Message Queue for Apache Kafka インスタンスが配置されているリージョンを選択します。
   	接続中の VPC	宛先の Message Queue for Apache Kafka インスタンスの VPC ID を選択します。VPC ID は Kafka インスタンスの 基本情報 ページで確認できます。
   	ホスト名または IP アドレス	Message Queue for Apache Kafka インスタンスの デフォルトエンドポイント から IP アドレスを入力します。 説明 デフォルトエンドポイント の IP アドレスは、Message Queue for Apache Kafka インスタンスの 基本情報 ページで確認できます。
   	ポート番号	Message Queue for Apache Kafka インスタンスのサービスポートを入力します。デフォルト値は 9092 です。
   	データベースアカウント	Message Queue for Apache Kafka インスタンスのデータベースアカウントを入力します。 説明 Message Queue for Apache Kafka インスタンスが VPC タイプのインスタンス の場合、データベースアカウント および データベースのパスワード を設定する必要はありません。
   	データベースパスワード	データベースアカウントに対応するパスワードを入力します。
   	Kafka のバージョン	Kafka インスタンスに一致するバージョンを選択します。
   	暗号化	ビジネスおよびセキュリティ要件に基づいて、非暗号化 または SCRAM-SHA-256 を選択します。
   	トピック	データを受信するトピックを選択します。
   	Kafka スキーマレジストリの使用	Kafka Schema Registry はメタデータ提供レイヤーです。Avro スキーマを格納および取得するための RESTful API を提供します。 ×：Kafka Schema Registry を使用しません。 ○：Kafka Schema Registry を使用します。Avro スキーマ用に Kafka Schema Registry に登録されている URL または IP アドレスを指定する必要があります。

4. 設定を完了したら、ページ下部の 接続をテストして続行 をクリックします。DTS サーバーの CIDR ブロック ダイアログボックスで、接続テスト をクリックします。

   説明

   DTS サーバーからのアクセスを許可するために、ソースおよび宛先データベースのセキュリティ設定に DTS サーバーの IP アドレス CIDR ブロックを追加していることを確認してください。これは自動または手動で実行できます。詳細については、「DTS サーバーの IP アドレス CIDR ブロックをホワイトリストに追加する」をご参照ください。

5. タスクオブジェクトを設定します。

   1. オブジェクト設定 ページで、同期対象オブジェクトを設定します。

      パラメーター	説明
      同期タイプ	増分データ同期 が選択されています。デフォルトでは、スキーマ同期 および 完全データ同期 も選択する必要があります。事前チェックが完了すると、DTS は選択されたオブジェクトの完全データ同期をソースインスタンスから宛先クラスターに実行します。これは、その後の増分データ同期のベースラインデータとなります。
      競合テーブルの処理モード	エラーの事前チェックと報告：宛先データベースに同じ名前のテーブルが存在するかどうかをチェックします。同じ名前のテーブルが存在しない場合、事前チェックは合格します。同じ名前のテーブルが存在する場合、事前チェックは失敗し、データ同期タスクは開始されません。 説明 宛先データベースで同じ名前のテーブルを削除または名前変更できない場合は、別のテーブル名にマッピングできます。詳細については、「テーブル名およびカラム名のマッピング」をご参照ください。 エラーを無視して続行：宛先データベースでの重複テーブル名のチェックをスキップします。 警告 エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスにリスクをもたらす可能性があります。たとえば： テーブルスキーマが同じで、宛先データベースのレコードがソースデータベースのレコードと同じプライマリキーまたは一意キー値を持つ場合： 完全同期中、DTS は宛先クラスターのレコードを保持します。ソースデータベースの対応するレコードは同期されません。 増分同期中、ソースデータベースのレコードが宛先データベースのレコードを上書きします。 テーブルスキーマが異なる場合、初期データ同期が失敗する可能性があります。これにより、一部のカラムデータのみが同期されるか、同期が完全に失敗する可能性があります。慎重に進めてください。
      Kafka のデータ形式	DTS が Kafka インスタンスにデータを書き込むデータ形式を選択します。 DTS Avro を選択した場合、DTS Avro スキーマ定義に基づいてデータを解析する必要があります。詳細については、「DTS Avro スキーマ定義」および「DTS Avro デシリアライズの例」をご参照ください。 Shareplex Json を選択した場合、「Shareplex Json」のパラメーター説明および例をご参照ください。
      Kafka 圧縮形式	ビジネス要件に基づいて、Kafka メッセージの圧縮形式を選択します。 LZ4 (デフォルト)：圧縮率は低く、圧縮速度は高速です。 GZIP：圧縮率は高く、圧縮速度は低速です。 説明 GZIP 圧縮は CPU リソースを大量に消費します。 Snappy：圧縮率および圧縮速度は中程度です。
      Kafka パーティションへのデータ転送ポリシー	ビジネス要件を満たす ポリシー を選択します。
      メッセージ肯定応答メカニズム	ビジネス要件を満たす 確認応答メカニズム を選択します。
      DDL 情報を格納するトピック	DDL 情報を格納するトピックを選択します。選択しない場合、DDL 情報はデフォルトでデータ受信トピックに格納されます。
      移行先インスタンスでのオブジェクト名の大文字化	宛先インスタンスに同期されるデータベース、テーブル、カラムのオブジェクト名の大文字小文字の扱いポリシーを設定できます。デフォルトでは、DTS のデフォルトポリシー が選択されています。ソースおよび宛先データベースのデフォルトポリシーを使用することもできます。詳細については、「宛先オブジェクト名の大文字小文字の扱いポリシー」をご参照ください。
      ソースオブジェクト	ソースオブジェクト ボックスで、同期するオブジェクトをクリックし、 をクリックして 選択中のオブジェクト ボックスに移動させます。 説明 同期オブジェクトとしてデータベース、テーブル、カラムを選択できます。テーブルまたはカラムを選択した場合、ビュー、トリガー、ストアドプロシージャなどの他のオブジェクトは宛先データベースに同期されません。
      選択中のオブジェクト	この例では、追加の設定は不要です。マッピング機能を使用して、宛先 Kafka インスタンスのソーステーブルに対してトピック名、パーティション数、パーティションキーを設定できます。詳細については、「マッピング情報」をご参照ください。 説明 オブジェクト名マッピングを使用すると、マッピングされたオブジェクトに依存する他のオブジェクトの同期が失敗する可能性があります。 増分同期の SQL 操作を選択するには、選択中のオブジェクト セクションでオブジェクトを右クリックし、表示されるダイアログボックスで同期する SQL 操作を選択します。

   2. 詳細設定へ をクリックして、詳細パラメーターを設定します。

      パラメーター	説明
      タスクのスケジュールに使用する専用クラスターの選択	デフォルトでは、DTS は共有クラスター上でタスクをスケジューリングするため、クラスターを選択する必要はありません。より安定したパフォーマンスを求める場合は、DTS 同期タスクを実行するための専用クラスターを購入できます。詳細については、「DTS 専用クラスターとは」をご参照ください。
      失敗した接続の再試行時間	同期タスク開始後、ソースまたは宛先データベースへの接続が失敗した場合、DTS はエラーを報告し、直ちに再試行を開始します。デフォルトの再試行時間は 720 分です。10 ～ 1,440 分の範囲でカスタム再試行時間を指定することもできます。30 分以上に設定することを推奨します。指定された時間内に DTS がデータベースへの再接続に成功した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。 説明 同じソースまたは宛先を共有する複数の DTS インスタンス（例：インスタンス A およびインスタンス B）があり、インスタンス A のネットワーク再試行時間を 30 分、インスタンス B を 60 分に設定した場合、両方に短い 30 分が適用されます。 DTS は接続再試行期間中もタスクランタイムに対して課金されるため、ビジネスニーズに基づいて再試行時間をカスタマイズするか、ソースおよび宛先データベースインスタンスをリリースした後はできるだけ早く DTS インスタンスをリリースすることを推奨します。
      移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。	同期タスク開始後、ソースまたは宛先データベースで接続以外の問題（DDL または DML 実行例外など）が発生した場合、DTS はエラーを報告し、直ちに継続的な再試行操作を開始します。デフォルトの再試行時間は 10 分です。1 ～ 1,440 分の範囲でカスタム再試行時間を設定することもできます。10 分以上に設定することを推奨します。設定された再試行時間内に関連操作が成功した場合、同期タスクは自動的に再開されます。そうでない場合、タスクは失敗します。 重要 移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 の値は、失敗した接続の再試行時間 の値より小さくする必要があります。
      完全同期レートを制限するかどうか	完全同期ステージ中、DTS はソースおよび宛先データベースの読み取りおよび書き込みリソースを消費するため、データベース負荷が増加します。ソースおよび宛先データベースの負荷を軽減するには、1 秒あたりのソースデータベースのクエリ率 QPS、1 秒あたりの完全移行の行数 RPS、および 1 秒あたりの完全移行データ量 (MB) BPS パラメーターを設定して、完全同期タスクのレート制限を設定できます。 説明 この設定項目は、同期タイプ が 完全データ同期 に設定されている場合にのみ利用可能です。 同期インスタンスの実行後も、完全同期レートを調整 できます。
      増分同期率を制限するかどうか	増分同期タスクのレート制限を設定することもできます。宛先データベースの負荷を軽減するには、1 秒あたりの増分同期の行数 RPS および 1 秒あたりの増分同期データ量 (MB) BPS を設定してください。
      環境タグ	ニーズに基づいて、インスタンスを識別するための環境タグを選択できます。この例では設定不要です。
      実際の書き込みコード	ニーズに基づいて、宛先データベースに書き込まれるデータの文字コードを選択できます。
      ETL 機能の設定	抽出・変換・書き出し (ETL) 機能を有効にするかどうかを選択します。詳細については、「ETL とは」をご参照ください。有効値： ○：ETL 機能を有効にします。コードエディタにデータ処理ステートメントを入力します。詳細については、「データ移行またはデータ同期タスクでの ETL の設定」をご参照ください。 ×：ETL 機能を無効にします。
      監視アラート	アラートを設定するかどうかを指定します。同期が失敗した場合や、遅延が指定されたしきい値を超えた場合、アラート連絡先に通知が送信されます。 ×：アラートは設定されません。 ○：アラートのしきい値を設定し、アラート通知 を指定してアラートを設定します。詳細については、「タスク設定時のモニタリングとアラートの設定」をご参照ください。

6. タスクを保存して事前チェックを実行します。

   • このインスタンスを設定するための API パラメーターを表示するには、次：タスク設定の保存と事前チェック ボタンにカーソルを合わせ、表示されるバルーンで OpenAPI パラメーターのプレビュー をクリックします。

   • API パラメーターの確認が完了したら、ページ下部の 次：タスク設定の保存と事前チェック をクリックします。

   説明

   • 同期ジョブを開始する前に、DTS は事前チェックを実行します。すべての事前チェック項目が合格した後でのみ、ジョブを開始できます。

   • 事前チェックが失敗した場合、失敗した項目の横にある 詳細を表示 をクリックします。指示に従って問題を修正し、再度事前チェックを実行します。

   • 事前チェックで警告が返された場合：

     • チェック項目が失敗し、無視できない場合は、項目の横にある 詳細を表示 をクリックします。指示に従って問題を修正し、再度事前チェックを実行します。

     • 無視可能なチェック項目については、アラートの詳細を確認、無視、OK、および 再度事前チェックを実行 を順にクリックして、警告をスキップし、事前チェックを再実行します。警告項目をマスクする場合、データの不整合などの問題が発生し、ビジネスにリスクをもたらす可能性があります。

7. インスタンスを購入します。

   1. 成功率 が 100% になったら、次：インスタンスの購入 をクリックします。

   2. 購入 ページで、データ同期インスタンスの課金方法およびリンク仕様を選択します。以下の表でこれらのパラメーターを詳しく説明します。

      カテゴリ	パラメーター	説明
      新しいインスタンスクラス	課金方法	サブスクリプション：インスタンス作成時に支払いを行います。長期的なニーズに適しており、従量課金よりもコスト効率が高くなります。サブスクリプション期間が長いほど、割引率が高くなります。 従量課金：1 時間単位で課金されます。短期的なニーズに適しています。使用後すぐにインスタンスをリリースしてコストを節約できます。
      	リソースグループ構成	インスタンスが属するリソースグループです。デフォルトはデフォルトリソースグループです。詳細については、「Resource Management とは」をご参照ください。
      	リンク仕様	DTS は、異なるパフォーマンスレベルを持つ同期仕様を提供します。同期リンク仕様は同期レートに影響します。ビジネスシナリオに基づいて仕様を選択できます。詳細については、「データ同期リンク仕様」をご参照ください。
      	サブスクリプション期間	サブスクリプションモードでは、サブスクリプションインスタンスの期間および数量を選択します。1 ～ 9 ヶ月の月額サブスクリプション、または 1、2、3、5 年の年額サブスクリプションを選択できます。 説明 このオプションは、課金方法が サブスクリプション の場合にのみ利用可能です。

   3. 設定を完了したら、Data Transmission Service (従量課金) 利用規約 を読み、同意してください。

   4. 購入して起動 をクリックします。OK ダイアログボックスで、OK をクリックします。

      データ同期ページでタスクの進行状況を確認できます。

マッピング

1. 選択中のオブジェクト エリアで、宛先トピック名にカーソルを合わせます。

2. 宛先トピック名の横に表示される 編集 ボタンをクリックします。

3. テーブルの編集 ダイアログボックスで、マッピング設定を構成します。

   説明

   • スキーマの編集 ダイアログボックスはデータベースレベルの設定用であり、テーブルの編集 ダイアログボックス（テーブルレベルの設定用）よりも設定可能なパラメーターが少ないです。

   • データベース全体を同期しない場合、スキーマの編集 ダイアログボックスで、対象トピックの名前 および パーティション数 パラメーターを変更できません。

   パラメーター	説明
   対象トピックの名前	DTS がソーステーブルからデータを書き込む宛先トピックです。デフォルトでは、ソースデータベースとターゲットデータベースの設定 ステップの 移行先データベース セクションで選択した トピック になります。 重要 宛先データベースが Alibaba Cloud Message Queue for Apache Kafka インスタンスの場合、指定されたトピックが宛先 Kafka インスタンスに存在している必要があります。存在しない場合、データ同期タスクは失敗します。宛先データベースが自己管理 Kafka データベースで、同期インスタンスにスキーマ同期タスクが含まれている場合、DTS は宛先データベースに指定されたトピックの作成を試みます。 対象トピックの名前 を変更した場合、DTS はデータを新しいトピックに書き込みます。
   フィルタリング条件	詳細については、「フィルター条件の設定」をご参照ください。
   パーティション数	宛先トピックのパーティション数です。
   パーティションキー	このパラメーターは、Kafka パーティションへのデータ転送ポリシー を 主キーのハッシュ値に基づいて、データを個別のパーティションに転送 に設定した場合に使用できます。パーティションキーとして 1 つ以上のカラムを選択できます。DTS はこのキーに基づいてハッシュ値を計算し、行を送信先トピックのパーティション間で分散します。 説明 パーティションキー は、テーブルの編集 ダイアログボックスでのみ選択できます。

4. OK をクリックします。

よくある質問

• Kafka 圧縮形式 を変更できますか？

  はい、「同期対象オブジェクトの変更」機能を使用してください。

• メッセージ肯定応答メカニズム を変更できますか？

  はい、「同期対象オブジェクトの変更」機能を使用してください。