如果同步的源集群为PolarDB MySQL集群,您需要在配置具体的同步任务前,参考本文的注意事项及限制,以保障数据同步任务的正常运行。

源实例为PolarDB MySQL的同步方案概览

根据如下同步方案,查看同步任务的注意事项及限制:

PolarDB MySQL间的同步

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 不支持同步源PolarDB MySQL只读节点。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。
特殊情况 PolarDB MySQL集群间的双向同步
说明 新版控制台暂不支持创建双向同步任务,如有需要,请您跳转至旧版控制台进行配置。
  • 目前DTS仅支持两个PolarDB MySQL集群之间的双向同步,暂不支持多个PolarDB MySQL集群间的双向同步。
  • DDL语法同步方向限制 。为保障双向同步链路的稳定性和数据一致性,只支持正向同步DDL,不支持反向同步DDL。
  • 双向同步任务时,DTS会在目标库中建立数据库dts,以避免数据循环同步,任务运行期间,请勿修改该库。

PolarDB MySQL同步至RDS MySQL、自建MySQL

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 不支持同步源PolarDB MySQL只读节点。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。

PolarDB MySQL同步至PolarDB-X

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 同步对象要求:
    • 不支持BIT、VARBIT、GEOMETRY、ARRAY、UUID、TSQUERY、TSVECTOR、TXID_SNAPSHOT类型的数据同步。
    • 暂不支持同步前缀索引,如果源库存在前缀索引可能导致数据同步失败。
    • 不支持同步源PolarDB MySQL只读节点。
  • 暂不支持结构初始化,在配置同步任务前,您需要在目标实例中创建对应的库和表。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。

PolarDB MySQL同步至云原生数据仓库AnalyticDB MySQL

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 暂不支持同步前缀索引,如果源库存在前缀索引可能导致数据同步失败。
  • 不支持同步源PolarDB MySQL只读节点。
  • 由于云原生数据仓库AnalyticDB MySQL本身的使用限制,当云原生数据仓库AnalyticDB MySQL集群中的节点磁盘空间使用量超过80%,会导致DTS任务异常,产生延迟。请提前根据待同步的对象预估所需空间,确保目标集群具备充足的存储空间。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。

PolarDB MySQL同步至云原生数据仓库AnalyticDB PostgreSQL

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 同步对象要求:
    • 仅支持表级同步。
    • 不支持BIT、VARBIT、GEOMETRY、ARRAY、UUID、TSQUERY、TSVECTOR、TXID_SNAPSHOT类型的数据同步。
    • 暂不支持同步前缀索引,如果源库存在前缀索引可能导致数据同步失败。
    • 不支持同步源PolarDB MySQL只读节点。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。

PolarDB MySQL同步至Elasticsearch

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 不支持同步源PolarDB MySQL只读节点。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。
  • 如果源库中待同步的表需要执行增加列的操作,您只需先在Elasticsearch实例中修改对应表的mapping,然后在源MySQL数据库中执行相应的DDL操作,最后暂停并启动DTS同步实例。

PolarDB MySQL同步至阿里云消息队列Kafka、自建Kafka

具体注意事项及限制如下:
类型 说明
源库限制
  • 待同步的表需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 如同步对象为表级别,且需进行编辑(如表列名映射),则单次同步任务仅支持同步至多1000张表。当超出数量限制,任务提交后会显示请求报错,此时建议您拆分待同步的表,分批配置任务,或者调用DTS OpenAPI配置任务。
  • Binlog日志:
    • 需开启,并且binlog_format为row、binlog_row_image为full。否则预检查阶段显示报错提示,且无法成功启动数据同步任务。
    • 建议在全量初始化期间,Binlog日志至少保留7天以上。或者等到全量初始化完成后,再清理DTS任务运行后源库产生的Binlog日志。
      说明 为保障数据安全,DTS本地只会循环存储源库近24小时或者50 GB的Binlog日志,一旦超出该限制,DTS本地将自动清除所缓存的日志。
      警告 过早清理源库的Binlog日志,可能会导致同步任务失败。例如源库的全量初始化数据较多,目标库写入异常等原因,导致全量初始化耗时超过24小时。在该情况下,过早清理源库的Binlog日志,DTS将无法获取到24小时前的Binlog日志,可能会导致同步任务失败。
  • 同步期间,请勿执行添加注释的DDL操作(如ALTER TABLE table_name COMMENT='表的注释';),否则数据同步任务会失败。
其他限制
  • 不支持同步源PolarDB MySQL只读节点。
  • 执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据迁移。否则全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。
  • 全量初始化会并发执行INSERT操作,导致目标数据库的表产生碎片,因此全量初始化完成后目标实例的表空间比源实例的表空间大。
  • 对于表级别的数据同步,请勿对源库的同步对象使用gh-ost或pt-online-schema-change等类似工具执行在线DDL变更,否则会导致同步失败。
  • 对于表级别的数据同步,如果除DTS以外的数据没有写入目标库,您可以使用数据管理DMS(Data Management Service)来执行在线DDL变更,请参见不锁表结构变更
    警告 如果有除DTS外的数据写入目标库,请勿使用DMS执行在线DDL变更,否则可能引起目标库数据丢失。