进行同步任务配置时,您可以先根据需要同步的来源与去向数据源,及DataWorks各模块对数据源的支持情况,选择对应的功能模块进行同步任务的配置。本文以数据源维度为您展示数据集成各模块支持的产品能力。

支持的数据源及同步方案

数据集成包括离线同步、实时同步和全增量同步任务三个功能模块,您可以根据各模块对数据源的支持情况,选择对应的功能模块进行同步任务的配置。
  • DataWorks离线同步为您提供数据读取(Reader)和写入插件(Writer)实现对数据源的读写操作。
  • DataWorks实时同步支持您将多种输入及输出数据源搭配组成同步链路进行单表或整库数据的实时增量同步。
  • DataWorks还为您提供多种数据源之间进行不同数据同步场景(整库离线同步、全增量实时同步)的同步。
说明
数据源离线同步实时同步全增量同步任务
单表读单表写单表增量读单表增量写整库增量读整库增量写整库离线读整库离线写单表/整库全增量实时读单表/整库全增量实时写
Amazon S3数据源支持---------
AnalyticDB for MySQL 2.0数据源支持支持----支持---
AnalyticDB for MySQL 3.0数据源支持支持-支持-支持支持--支持
AnalyticDB for PostgreSQL数据源支持支持----支持---

ApsaraDB For Oceanbase

支持支持--支持---支持-
ClickHouse数据源支持支持--------
DataHub数据源支持支持支持支持-支持---支持
DB2数据源支持支持----支持---
Doris数据源-支持--------
DM(达梦)数据源支持支持----支持---
DRDS(polardb-x)数据源支持支持--

-

-支持-支持-

Elasticsearch

支持支持-支持---支持-支持
FTP数据源支持支持--------

GBase8a

支持

支持

--------

HBase

  • HBase Reader:支持
  • HBase20xsql Reader:支持
  • HBase Writer:支持
  • HBase 11xsql Writer:支持
--------
HDFS数据源支持支持--------

Hive

支持支持----支持---

Hologres

支持

支持

-支持-支持---支持
HybridDB for MySQL数据源支持支持----支持---
Kafka数据源支持支持支持支持-支持---支持
KingbaseES(人大金仓)数据源支持支持--------
Lindorm数据源支持支持--------
LogHub(SLS)数据源支持支持支持-------
MaxCompute数据源支持支持-支持-支持-支持-支持
Maxgraph数据源-支持--------
Memcache(OCS)数据源-支持--------
MetaQ数据源支持---------
MongoDB数据源支持支持--支持---支持-
MySQL数据源支持支持支持-支持-支持-支持-
OpenSearch数据源-支持--------
Oracle数据源支持支持--

-

-支持-支持-
OSS数据源支持支持-----支持--
OTSStream数据源支持---------
PolarDB数据源支持支持支持-支持-支持-支持-
PostgreSQL数据源支持支持----支持-支持-
Redis数据源-支持--------
RestAPI(HTTP形式)数据源支持支持--------
SAP HANA数据源支持支持--------
StarRocks数据源支持支持--------
Stream数据源支持支持--------
SQL Server数据源支持支持----支持---
Tablestore(OTS)数据源支持支持--------
TSDB数据源-支持--------

Vertica

支持支持--------