DataWorks為您提供的即時資料同步功能,方便您使用單表或整庫同步方式,將源端資料庫中部分或全部表的資料變化即時同步至目標資料庫中,實現目標庫即時保持和源庫的資料對應。
核心能力
即時同步支援的能力如下圖所示:
能力 | 描述 |
多種資料來源間的資料同步 | 即時同步支援多種資料來源,您可以將多種輸入及輸出資料來源搭配組成同步鏈路進行資料同步。詳情請參見支援的資料來源及同步方案。 |
複雜網路環境下的資料同步 | 即時同步支援阿里雲雲資料庫,本地IDC、ECS自建資料庫或非阿里雲資料庫等環境下的資料同步。配置前需確保資源群組與源端/目的端的網路連通性,配置詳情請參見:網路連通方案。 |
同步情境 | 即時同步支援單表即時資料同步至目標端單表、分庫分表即時增量資料同步至目標端單表。
|
即時同步任務配置 | 即時同步任務配置時支援的能力如下,您無需編寫代碼,通過簡單的任務配置即可實現單表ETL即時資料的收集。詳情請參見:配置單表即時同步任務。 單表即時同步:
|
即時同步任務營運 | 支援對同步任務設定監控警示
|
DI Agent | 通過 DI Agent 以對話方式建立和管理單表即時同步任務,無需逐項填寫配置表單——用自然語言描述同步需求,Agent 自動完成資料來源識別、欄位對應、資源群組分配和調度策略配置,同時提供智能診斷和周期巡檢等營運能力。DI Agent 的功能介紹請參見Data Integration DI Agent。 |
即時同步不支援在資料開發介面運行任務,您需要儲存、提交即時同步節點後,在生產環境營運中心運行該節點。
即時同步任務不支援同步視圖。
即時同步任務僅支援圖形化(嚮導)模式配置,不支援轉為指令碼模式。指令碼模式僅適用於離線同步任務。
支援的資料來源
源端:Kafka、Hologres、Oracle、LogHub、DataHub。
目的端:ApsaraDB for OceanBase、Data Lake Formation(DLF)、Doris、Hologres、Kafka、MaxCompute、OSS、OSS-HDFS、StarRocks、Tablestore、Lindorm。
資料處理:資料過濾、字串替換、資料脫敏、JSON解析、欄位編輯與賦值。
開始使用
建立單表即時同步任務,請參見:單表即時同步任務配置。
通過Data Agent能力建立單表即時同步任務,
營運與調優
建立單表即時同步任務後,可能需要進行日常營運、問題排查和效能調優。詳細操作指南請參見單表即時同步營運與調優。
如果您使用的是整庫即時同步任務,請參見整庫即時同步營運和調優的營運文檔。
常見問題
即時同步任務常見問題請參見即時同步常見問題。