如果同步的源数据库类型为Redis,如自建Redis、云数据库Redis,您需要在配置具体的同步任务前,参考本文的注意事项及限制,以保障数据同步任务的正常运行。

源库为Redis的同步方案概览

根据如下同步方案,查看同步任务的注意事项及限制:

Redis间的双向同步

类型 说明
源库限制
  • 待同步的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 为保障同步质量,DTS会在源库中插入一个key:DTS_REDIS_TIMESTAMP_HEARTBEAT,用于记录更新时间点。
  • 为保障同步链路稳定性,建议将配置文件redis.confrepl-backlog-size参数的值适当调大。
  • 请勿在源库中执行FLUSHDBFLUSHALL命令,否则将导致源和目标的数据不一致。
  • 源库需开启AOF日志。
  • 如果源库中的某些Key使用了过期(expire)策略,由于可能存在Key已过期但未被及时删除的情况,所以在目标库中查看到的Key数量(例如通过info命令查看)会比源库的Key数量少。
  • 如果目标库的数据逐出策略(maxmemory-policy)配置为noeviction以外的值,可能导致目标库的数据与源库不一致。关于数据逐出策略详情,请参见Redis数据逐出策略介绍
  • 源库单机版Redis同步到目标库集群版Redis的操作限制:由于集群cluster只允许单个命令操作单个slot,若在源库执行多Key操作时,Key不在同一个slot或涉及多个slot,则会出现以下报错:
    CROSSSLOT Keys in request don't hash to the same slot
    建议在DTS同步过程中仅执行单Key操作,以免导致链路中断。
  • 源库不支持存储介质云盘(ESSD)的Tair(云盘版)实例。
其他限制
  • 同步期间,如源Redis发生扩缩容(如增加或者减少分片)、规格变配(如扩大内存),则您需重新配置任务。且为保障数据一致性,建议重新配置任务前,先清空已同步至目标Redis的数据。
  • 同步期间,如源Redis连接地址变化,则您需要重新配置任务。
  • 建议源和目标库版本保持一致,或者从低版本同步到高版本以保障兼容性。如为高版本同步至低版本,可能存在数据库兼容性问题。
  • 全量数据初始化时DTS将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。建议在执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据同步。
  • 如双向同步任务的源实例或目标实例位于海外地域,则仅支持同地域的双向同步,不支持跨地域的双向同步。例如,支持日本地域间的双向同步,不支持日本地域与法兰克福地域间的双向同步。
  • 在DTS同步期间,不允许有除DTS外的数据写入目标库,否则会导致源库与目标库数据不一致。
  • 若DTS正向和反向同步任务均同步了某个表,且正向同步任务同步了该表的全量和增量数据,则反向同步任务只同步该表的增量数据。
  • 若目标实例的架构类型为集群版且某一个分片达到了内存上限,或目标实例的存储空间不足时,DTS任务会因内存溢出(Out of Memory)而失败。

Redis间的单向同步

类型 说明
源库限制
  • 待同步的集合需具备主键或唯一约束,且字段具有唯一性,否则可能会导致目标数据库中出现重复数据。
  • 为保障同步质量,DTS会在源库中插入一个key:DTS_REDIS_TIMESTAMP_HEARTBEAT,用于记录更新时间点。
  • 为保障同步链路稳定性,建议将配置文件redis.confrepl-backlog-size参数的值适当调大。
  • 源库需开启AOF日志。
  • 如果源库中的某些Key使用了过期(expire)策略,由于可能存在Key已过期但未被及时删除的情况,所以在目标库中查看到的Key数量(例如通过info命令查看)会比源库的Key数量少。
  • 如果目标库的数据逐出策略(maxmemory-policy)配置为noeviction以外的值,可能导致目标库的数据与源库不一致。关于数据逐出策略详情,请参见Redis数据逐出策略介绍
  • 源库单机版Redis同步到目标库集群版Redis的操作限制:由于集群cluster只允许单个命令操作单个slot,若在源库执行多Key操作时,Key不在同一个slot或涉及多个slot,则会出现以下报错:
    CROSSSLOT Keys in request don't hash to the same slot
    建议在DTS同步过程中仅执行单Key操作,以免导致链路中断。
  • 源Redis实例Slave和Master之间的复制超时时间参数repl-timeout,默认为60秒, 建议使用config set repl-timeout 600命令设置为600秒。若源数据库数据量比较大,可以适当增大repl-timeout参数的值。
  • 源库不支持存储介质磁盘(ESSD)的Tair(云盘版)实例。
  • 源库不支持存储介质云盘(ESSD)的Tair(云盘版)实例。
  • 源库为储介质持久内存的Tair(云盘版)时,需要开启appendonly参数。
其他限制
  • 同步期间,如源Redis发生扩缩容(如增加或者减少分片)、规格变配(如扩大内存),则您需重新配置任务。且为保障数据一致性,建议重新配置任务前,先清空已同步至目标Redis的数据。
  • 同步期间,如源Redis连接地址变化,则您需要重新配置任务。
  • 建议源和目标库版本保持一致,或者从低版本同步到高版本以保障兼容性。如为高版本同步至低版本,可能存在数据库兼容性问题。
  • 全量数据初始化时DTS将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升。建议在执行数据同步前需评估源库和目标库的性能,同时建议业务低峰期执行数据同步。
  • 在DTS同步期间,不允许有除DTS外的数据写入目标库,否则会导致源库与目标库数据不一致。
  • 若目标实例的架构类型为集群版且某一个分片达到了内存上限,或目标实例的存储空间不足时,DTS任务会因内存溢出(Out of Memory)而失败。