DataWorks のリアルタイム同期は、単一テーブルまたはデータベース全体からデータ変更を継続的に複製することで、宛先データベースをソースデータベースと同期した状態に保ちます。
コア機能
以下の機能を利用できます。
機能 | 説明 |
さまざまなデータソース間のデータ同期 | リアルタイム同期は、さまざまなデータソースをサポートしています。異なるソースと宛先のデータソースを組み合わせて、同期パイプラインを作成できます。詳細については、「サポートされているデータソースと同期ソリューション」をご参照ください。 |
複雑なネットワーク環境でのデータ同期 | リアルタイム同期は、Alibaba Cloud データベース、オンプレミスデータセンター、ECS インスタンス上の自己管理データベース、および Alibaba Cloud 外のデータベースからのデータ転送をサポートします。開始する前に、リソースグループと、ソースおよび宛先の両方との間に ネットワーク接続 が存在することを確認してください。設定の詳細については、「ネットワーク接続ソリューション」をご参照ください。 |
同期シナリオ | リアルタイム同期は、単一テーブルを宛先テーブルに同期したり、シャーディングされたデータベースやテーブルからの増分データを1つの宛先テーブルに統合したりすることもできます。
|
リアルタイム同期タスクの設定 | リアルタイム同期タスクを設定する際に、以下の機能を利用できます。コードを記述することなく、簡単なタスク設定で単一テーブルの ETL リアルタイムデータを収集できます。詳細については、「単一テーブルのリアルタイム同期タスクの設定」をご参照ください。 単一テーブルのリアルタイム同期:
|
リアルタイム同期タスクの運用保守 | 同期タスクの監視アラートを設定できます。
|
DI Agent | DI Agent を使用して、対話形式で単一テーブルのリアルタイム同期タスクを作成および管理できます。設定フォームにフィールドごとに入力する代わりに、同期要件を自然言語で記述すると、DI Agent がデータソースの識別、フィールドマッピング、リソースグループの割り当て、スケジューリングポリシーの設定を自動的に処理します。また、インテリジェント診断や定期検査などの運用保守機能も提供します。DI Agent の詳細については、「DI Agent の概要」をご参照ください。 |
リアルタイム同期は、DataStudio インターフェースでのタスク実行をサポートしていません。まずリアルタイム同期ノードを保存してデプロイし、その後、本番環境のオペレーションセンターでノードを実行する必要があります。
リアルタイム同期タスクはビューの同期をサポートしていません。
リアルタイム同期タスクはグラフィカル (ウィザード) モードでの設定のみに対応しており、スクリプトモードに変換することはできません。スクリプトモードはバッチ同期 タスクでのみ利用可能です。
サポートされているデータソース
ソース:Kafka、Hologres、Oracle、LogHub、DataHub。
宛先:ApsaraDB for OceanBase、Data Lake Formation (DLF)、Doris、Hologres、Kafka、MaxCompute、OSS、OSS-HDFS、StarRocks、Tablestore、Lindorm。
データ処理:データフィルタリング、文字列置換、データマスキング、JSON 解析、フィールドの編集と割り当て。
使用開始
単一テーブルのリアルタイム同期タスクを作成するには、「単一テーブルのリアルタイム同期タスクの設定」をご参照ください。
DI Agent を使用して単一テーブルのリアルタイム同期タスクを作成するには、「DI Agent の概要」をご参照ください。
運用保守とチューニング
単一テーブルのリアルタイム同期タスクを作成した後、日常の運用保守、トラブルシューティング、およびパフォーマンスチューニングを実行する必要がある場合があります。詳細な手順については、「単一テーブルのリアルタイム同期:運用保守とチューニング」をご参照ください。
データベース全体のリアルタイム同期タスクを使用している場合は、「データベース全体のリアルタイム同期:運用とチューニング」の運用保守ドキュメントをご参照ください。
よくある質問
リアルタイム同期タスクに関するよくある質問については、「リアルタイム同期に関する FAQ」をご参照ください。