すべてのプロダクト
Search
ドキュメントセンター

DataWorks:単一テーブルのリアルタイム同期機能

最終更新日:Jul 15, 2026

DataWorks のリアルタイム同期は、単一テーブルまたはデータベース全体からのデータ変更を継続的にレプリケートすることで、ソースデータベースと宛先データベースの同期を維持します。

コア機能

以下の機能が利用可能です。

image

機能

説明

さまざまなデータソース間のデータ同期

リアルタイム同期は、さまざまなデータソースに対応しています。異なるソースと宛先のデータソースを組み合わせて、同期パイプラインを作成できます。詳細については、「サポートされているデータソースと同期ソリューション」をご参照ください。

複雑なネットワーク環境でのデータ同期

リアルタイム同期は、Alibaba Cloud データベース、オンプレミスデータセンター、ECS インスタンス上の自己管理データベース、および Alibaba Cloud 以外のデータベースからのデータ転送に対応しています。開始する前に、リソースグループとソースと宛先の両方との間に ネットワーク接続 が存在することを確認してください。設定の詳細については、「ネットワーク接続ソリューション」をご参照ください。

同期シナリオ

リアルタイム同期は、単一テーブルを宛先テーブルに同期したり、シャーディングされたデータベースやテーブルからの増分データを 1 つの宛先テーブルに集約したりすることに対応しています。

  • Data Integration と Data Studio (新バージョン):単一テーブルから単一テーブルへの ETL 同期のためのウィザードベースの設定。豊富なデータ処理機能に加えて、データサンプリング、ドライラン、高度なパラメーターなどの高度な機能もサポートしています。

  • Data Studio (旧バージョン):単一テーブルから単一テーブルへの ETL 同期のためのドラッグアンドドロップ設定。データフィルタリング、文字列の置換、データマスキングなどのデータ処理機能に対応しています。

リアルタイム同期タスクの設定

リアルタイム同期タスクを設定する際に、以下の機能を利用できます。コードを記述することなく、簡単なタスク設定で単一テーブルの ETL リアルタイムデータを収集できます。詳細については、「単一テーブルのリアルタイム同期タスクの設定」をご参照ください。

単一テーブルのリアルタイム同期:

  • 設定方法:グラフィカルなドラッグアンドドロップまたはウィザードベースのローコード開発に対応しています。コーディングは不要で、初心者でも簡単に始められます。

  • フィールドマッピング:同名マッピング、同行マッピング、カスタムフィールドリレーションシップに対応しています。ソースフィールドに対応するフィールドが宛先テーブルにない場合、動的なフィールド処理ポリシーを指定して、列の追加、無視、またはエラーを報告できます。同期タスクでは、宛先フィールドへ 定数変数関数 を動的に割り当てることもできます。

  • データ処理:[Data Filtering]、[文字列の置き換え]、[データマスキング]、[JSON 解析] を使用してソースデータを処理し、処理後のデータを宛先データベースに出力できます。

  • コードのデバッグ:ソースデータソースからデータをサンプリングし、各データ処理ステップで中間結果を出力できます。[Dry Run] を使用して、最終的なデータ出力をシミュレートできます。[Dry Run] 中のデータ出力は宛先テーブルに書き込まれないため、デバッグが実際のデータに与える影響を心配する必要はありません。

リアルタイム同期タスクの運用保守

同期タスクのモニタリングアラートを設定できます。

  • チェックポイントからの再開 に対応しています。タスクが中断されたり、予期しない変動によってデータが失われたりした場合、適切なチェックポイントを指定してデータの整合性を確保できます。

  • ビジネスレイテンシー、フェイルオーバー、DDL ポリシー、ハートビート検出のモニタリングアラートを設定できます。詳細については、「リアルタイム同期タスクのモニタリングアラートの設定」をご参照ください。

  • アラート通知は、メール、SMS、電話、DingTalk メッセージを通じてアラート受信者に送信されるため、タスクの例外をタイムリーに検出して対処できます。

  • アラート疲労の制御に対応しています。短時間に大量のアラートが生成されるのを防ぐため、DataWorks では、指定した時間間隔内に 1 つのアラートのみを送信するルールを設定できます。

  • ハートビート検出に対応しており、タスクの開始または停止時にハートビートアラートを自動的に有効または無効にします。この機能を手動で無効にした場合、無効のままになります。

DI Agent

DI Agent を使用して、対話形式で単一テーブルのリアルタイム同期タスクを作成および管理します。設定フォームに項目を 1 つずつ入力する代わりに、自然言語で同期要件を記述すると、Agent がデータソースの識別、フィールドマッピング、リソースグループの割り当て、スケジューリングポリシーの設定を自動的に処理します。また、インテリジェント診断や定期検査などの運用保守機能も提供します。DI Agent の詳細については、「DI Agentの概要」をご参照ください。

説明
  • リアルタイム同期は、DataStudio インターフェースでのタスクの実行に対応していません。まずリアルタイム同期ノードを保存してデプロイし、次に本番環境のオペレーションセンターでノードを実行する必要があります。

  • リアルタイム同期タスクは、ビューの同期に対応していません。

  • リアルタイム同期タスクは、グラフィカル (ウィザード) モードの設定のみに対応しており、スクリプトモードに変換することはできません。スクリプトモードは、バッチ同期タスクでのみ使用できます。

サポートされているデータソース

ソース:Kafka、Hologres、Oracle、LogHub、DataHub。

宛先:ApsaraDB for OceanBase、Data Lake Formation (DLF)、Doris、Hologres、Kafka、MaxCompute、OSS、OSS-HDFS、StarRocks、Tablestore、Lindorm。

データ処理:データフィルタリング、文字列の置換、データマスキング、JSON 解析、フィールドの編集と割り当て。

利用開始

単一テーブルのリアルタイム同期タスクを作成するには、「単一テーブルのリアルタイム同期タスクの設定」をご参照ください。

DI Agent を使用して単一テーブルのリアルタイム同期タスクを作成することもできます。詳細については、「DI Agent の概要」をご参照ください。

運用保守とチューニング

単一テーブルのリアルタイム同期タスクを作成した後、日常の運用保守、トラブルシューティング、パフォーマンスチューニングが必要になる場合があります。詳細な手順については、「単一テーブルのリアルタイム同期:運用保守とチューニング」をご参照ください。

説明

データベース全体のリアルタイム同期タスクを使用している場合は、「データベース全体のリアルタイム同期:運用とチューニング」の運用保守ドキュメントをご参照ください。

よくある質問

リアルタイム同期タスクに関するよくある質問については、「リアルタイム同期に関する FAQ」をご参照ください。