DataWorks のリアルタイム同期は、単一テーブルまたはデータベース全体からのデータ変更を継続的にレプリケートすることで、ソースデータベースと宛先データベースの同期を維持します。
コア機能
以下の機能が利用可能です。
機能 | 説明 |
さまざまなデータソース間のデータ同期 | リアルタイム同期は、さまざまなデータソースに対応しています。異なるソースと宛先のデータソースを組み合わせて、同期パイプラインを作成できます。詳細については、「サポートされているデータソースと同期ソリューション」をご参照ください。 |
複雑なネットワーク環境でのデータ同期 | リアルタイム同期は、Alibaba Cloud データベース、オンプレミスデータセンター、ECS インスタンス上の自己管理データベース、および Alibaba Cloud 以外のデータベースからのデータ転送に対応しています。開始する前に、リソースグループとソースと宛先の両方との間に ネットワーク接続 が存在することを確認してください。設定の詳細については、「ネットワーク接続ソリューション」をご参照ください。 |
同期シナリオ | リアルタイム同期は、単一テーブルを宛先テーブルに同期したり、シャーディングされたデータベースやテーブルからの増分データを 1 つの宛先テーブルに集約したりすることに対応しています。
|
リアルタイム同期タスクの設定 | リアルタイム同期タスクを設定する際に、以下の機能を利用できます。コードを記述することなく、簡単なタスク設定で単一テーブルの ETL リアルタイムデータを収集できます。詳細については、「単一テーブルのリアルタイム同期タスクの設定」をご参照ください。 単一テーブルのリアルタイム同期:
|
リアルタイム同期タスクの運用保守 | 同期タスクのモニタリングアラートを設定できます。
|
DI Agent | DI Agent を使用して、対話形式で単一テーブルのリアルタイム同期タスクを作成および管理します。設定フォームに項目を 1 つずつ入力する代わりに、自然言語で同期要件を記述すると、Agent がデータソースの識別、フィールドマッピング、リソースグループの割り当て、スケジューリングポリシーの設定を自動的に処理します。また、インテリジェント診断や定期検査などの運用保守機能も提供します。DI Agent の詳細については、「DI Agentの概要」をご参照ください。 |
リアルタイム同期は、DataStudio インターフェースでのタスクの実行に対応していません。まずリアルタイム同期ノードを保存してデプロイし、次に本番環境のオペレーションセンターでノードを実行する必要があります。
リアルタイム同期タスクは、ビューの同期に対応していません。
リアルタイム同期タスクは、グラフィカル (ウィザード) モードの設定のみに対応しており、スクリプトモードに変換することはできません。スクリプトモードは、バッチ同期タスクでのみ使用できます。
サポートされているデータソース
ソース:Kafka、Hologres、Oracle、LogHub、DataHub。
宛先:ApsaraDB for OceanBase、Data Lake Formation (DLF)、Doris、Hologres、Kafka、MaxCompute、OSS、OSS-HDFS、StarRocks、Tablestore、Lindorm。
データ処理:データフィルタリング、文字列の置換、データマスキング、JSON 解析、フィールドの編集と割り当て。
利用開始
単一テーブルのリアルタイム同期タスクを作成するには、「単一テーブルのリアルタイム同期タスクの設定」をご参照ください。
DI Agent を使用して単一テーブルのリアルタイム同期タスクを作成することもできます。詳細については、「DI Agent の概要」をご参照ください。
運用保守とチューニング
単一テーブルのリアルタイム同期タスクを作成した後、日常の運用保守、トラブルシューティング、パフォーマンスチューニングが必要になる場合があります。詳細な手順については、「単一テーブルのリアルタイム同期:運用保守とチューニング」をご参照ください。
データベース全体のリアルタイム同期タスクを使用している場合は、「データベース全体のリアルタイム同期:運用とチューニング」の運用保守ドキュメントをご参照ください。
よくある質問
リアルタイム同期タスクに関するよくある質問については、「リアルタイム同期に関する FAQ」をご参照ください。