离线同步任务支持您通过配置类似数据过滤的功能来决定同步全量数据还是增量数据,配置过滤条件时,将只同步满足过滤条件的数据。同时,过滤条件可以结合调度参数使用,实现过滤条件随任务调度时间的动态变化,进而实现增量数据的同步。为您介绍如何配置增量数据同步任务。
使用说明
- 部分数据源暂无增量同步方案,例如HBase、OTSStream数据源等。具体数据源是否支持增量同步可以看具体的Reader插件文档。
- 每个插件实现增量同步的所配置的参数可能不同,具体参数配置可以参考对应的Reader插件文档,详情可参考:支持的数据源与读写插件。例如:
数据库类型 增量同步需配置的参数 支持的语法 MySQL Reader where 说明 向导模式配置时,需要配置的界面参数名为:数据过滤。数据库语法 说明 可与调度参数结合实现每日读取指定时间区间的数据。MongoDB Reader query 说明 向导模式配置时,需要配置的界面参数名为:检索查询条件。基本与数据库一致 说明 可与调度参数结合实现每日读取指定时间区间的数据。OSS Reader Object 指定路径 说明 与调度参数结合实现每日读取指定文件数据。... ... ...
配置增量同步
数据集成离线同步任务中,可以使用调度参数来指定同步源表及目标表的数据路径以及数据范围,调度参数的配置方式与其他类型任务一致,没有特殊限制。
在同步任务运行时,任务中配置的占位符参数都会被替换为调度参数表达式所表达的实际值,然后再执行数据同步。
以同步MySQL数据为例:
配置增量数据同步时:
- 当不配置数据过滤时,默认同步全量数据至目标表中。
- 当配置数据过滤时,将只同步满足过滤条件的数据至目标表中。

场景示例
- 同步历史数据:如果您需要将历史增量数据同步至目标表对应时间分区,您可以使用运维中心补数据功能。补数据功能使用详情请参见:执行补数据并查看补数据实例。
- RDS增量数据同步至MaxCompute