從自建Redis遷移至雲資料庫Tair（相容Redis）

本文介紹如何使用Data Transmission Service，將自建Redis遷移至雲資料庫Tair（相容Redis）執行個體。DTS支援全量資料移轉以及增量資料移轉，同時使用這兩種遷移類型可以實現在自建應用不停服的情況下，平滑地完成自建Redis資料庫的遷移上雲。

說明

本文為舊版DTS控制台的操作文檔，新版DTS控制台的操作文檔請參見從自建Redis遷移至雲資料庫Tair（相容Redis）執行個體。

前提條件

自建Redis資料庫版本為2.8、3.0、3.2、4.0、5.0、6.0。
自建Redis資料庫為單機架構，暫不支援叢集架構。

說明
如果是叢集架構，您可以通過資料同步的方式來實現資料移轉，詳情請參見從自建Redis叢集同步至雲資料庫Tair（相容Redis）執行個體。
自建Redis資料庫可正常運行psync或sync命令。
阿里雲Redis執行個體的儲存空間須大於自建Redis資料庫佔用的儲存空間。
源Redis執行個體Slave和Master之間的複製逾時時間參數repl-timeout，預設為60秒, 建議使用config set repl-timeout 600命令設定為600秒。若來源資料庫資料量比較大，可以適當增大repl-timeout參數的值。

注意事項

DTS在執行全量資料移轉時將佔用源庫和目標庫一定的資源，可能會導致資料庫伺服器負載上升。如果資料庫業務量較大或伺服器規格較低，可能會加重資料庫壓力，甚至導致資料庫服務不可用。建議您在執行資料移轉前謹慎評估，在業務低峰期執行資料移轉。
若目標資料庫記憶體不足，觸發資料逐出時，由於雲資料庫 Tair（相容 Redis）的預設資料逐出策略（maxmemory-policy）為volatile-lru，會導致目標庫與源庫資料不一致的情況，但不會影響任務的正常運行。

為避免該情況發生，建議將目標庫的資料逐出原則設定為noeviction，當目標庫記憶體不足時，資料會寫入失敗，同時任務也會失敗，但目標庫不會因為資料逐出而遺失資料。

說明
關於資料逐出策略詳情，請參見Redis資料逐出策略介紹。
如果源庫中的某些Key使用了到期（expire）策略，由於可能存在Key已到期但未被及時刪除的情況，所以在目標庫中查看到的Key數量（例如通過info命令查看）會比源庫的Key數量少。

說明
源和目標庫中，未設定到期策略或未到期的Key數量是一致的。
對於通過EVAL或EVALSHA調用的Lua指令碼，在增量資料移轉時，由於目標端在執行指令碼時不會明確返回執行結果，所以DTS無法確認該類型指令碼是否執行成功。
對於List列表，由於DTS在調用psync或sync傳輸資料時，不會對目標端已有的資料執行Flush操作，所以可能出現重複的資料。
遷移期間，如自建Redis發生擴縮容（如增加或者減少分區）、規格變更配置（如擴大記憶體），則您需重新設定任務。且為保障資料一致性，在重新設定任務前，建議先清空已遷移至目標Redis的資料。
遷移期間，如自建Redis串連地址變化，您需重新設定任務。
對於遷移失敗的任務，DTS會觸發自動回復。當您需要將業務切換至目標執行個體時，請務必先結束或釋放該任務，避免該任務被自動回復後，導致源端資料覆蓋目標執行個體的資料。
源庫單機版Redis遷移到目標庫叢集版Redis的操作限制：由於叢集cluster只允許單個命令操作單個slot，若在源庫執行多Key操作時，Key不在同一個slot或涉及多個slot，則會出現報錯
```
CROSSSLOT Keys in request don't hash to the same slot
```
建議在DTS遷移過程中僅執行單Key操作，以免導致鏈路中斷。
若目標執行個體的架構類型為叢集版且某一個分區達到了記憶體上限，或目標執行個體的儲存空間不足時，DTS任務會因記憶體溢出（Out of Memory）而失敗。
為保障遷移品質，DTS會在源庫中插入一個首碼為DTS_REDIS_TIMESTAMP_HEARTBEAT的Key用於記錄更新時間點，如果源庫為叢集架構，DTS會在各個shard上均插入該Key。遷移過程中會過濾該Key，遷移任務結束，該Key就會到期。
如果源庫為唯讀執行個體或者DTS帳號沒有寫（SETEX）許可權，上報的延遲可能不準確。
若目標執行個體已開啟透明資料加密TDE功能，則暫不支援通過DTS遷移資料。
若在資料移轉過程中出現包括但不限於以下情況，可能會使全量資料重新遷移至目標端，從而導致資料不一致。
- 源端或目標端Redis發生串連閃斷，導致斷點續傳失敗。
- 源端或目標端Redis發生主備切換或故障切換。
- 源端或目標端Redis的串連地址發生變化。
若您需要遷移增量資料，則任務使用的源端帳號必須具備PSYNC和SYNC許可權。
若雲資料庫Tair（相容Redis）執行個體已開啟TLS（Transport Layer Security）加密功能，則必須以SSL安全連線的方式接入到DTS（不支援TLSv1.3）。當前暫不支援已開啟SSL的雲資料庫Tair（相容Redis）執行個體，以雲執行個體的方式接入DTS。
若執行個體運行失敗，DTS技術支援人員將在8小時內嘗試恢複該執行個體。在恢複失敗執行個體的過程中，可能會對該執行個體進行重啟、調整參數等操作。

說明
在調整參數時，僅會修改DTS執行個體的參數，不會對資料庫中的參數進行修改。可能修改的參數，包括但不限於修改執行個體參數中的參數。

費用說明

遷移類型	鏈路配置費用	公網流量費用
結構遷移和全量資料移轉	不收費。	當目標庫的接入方式為公網IP時收取公網流量費用。更多資訊，請參見計費概述。
增量資料移轉	收費，詳情請參見計費概述。	當目標庫的接入方式為公網IP時收取公網流量費用。更多資訊，請參見計費概述。

遷移類型說明

全量資料移轉

DTS將自建Redis資料庫遷移對象的存量資料，全部遷移到阿里雲Redis執行個體中。

說明
如僅執行全量資料移轉，則為保障資料一致性，全量資料移轉期間請勿在自建Redis資料庫中執行DDL操作。
增量資料移轉

在全量資料移轉的基礎上，DTS將自建Redis資料庫的累加式更新資料到阿里雲Redis執行個體中。通過增量資料移轉可以實現在應用不停服的情況下，平滑地完成Redis資料庫的遷移上雲。

增量資料移轉支援同步的命令

APPEND
BITOP、BLPOP、BRPOP、BRPOPLPUSH
DECR、DECRBY、DEL
EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT
FLUSHALL、FLUSHDB
GEOADD、GETSET
HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX
INCR、INCRBY、INCRBYFLOAT
LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM
MOVE、MSET、MSETNX、MULTI
PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX、PUBLISH
RENAME、RENAMENX、RESTORE、RPOP、RPOPLPUSH、RPUSH、RPUSHX
SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE
ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE
XADD、XCLAIM、XDEL、XAUTOCLAIM、XGROUP CREATECONSUMER、XTRIM

準備工作（增量資料移轉）

為保障增量資料移轉任務的正常執行，建議關閉複製輸出緩衝區的限制。本文以Linux作業系統的伺服器為例進行示範。

說明

如您只須要進行全量資料移轉，可跳過本步驟。

使用redis-cli工具串連自建Redis資料庫。

說明
安裝原生Redis即可使用redis-cli，詳情請參見Redis社區版官網。
```
redis-cli -h <host> -p <port> -a <password>
```
說明
- <host>：自建Redis資料庫的訪問地址，本機可使用127.0.0.1。
- <port>：自建Redis資料庫的服務連接埠，預設為6379。
- <password>：自建Redis資料庫的訪問密碼。
樣本：
```
redis-cli -h 127.0.0.1 -p 6379 -a Test123456
```
執行下述命令，關閉複製輸出緩衝區的限制。
```
config set client-output-buffer-limit 'slave 0 0 0'
```

操作步驟

登入資料轉送控制台。

說明
若資料轉送控制台自動跳轉至Data Management控制台，您可以在右下角的中單擊，返回至舊版資料轉送控制台。
在左側導覽列，單擊資料移轉。
在遷移工作清單頁面頂部，選擇遷移的目標執行個體所屬地區。
單擊頁面右上方的建立遷移任務。

配置遷移任務的源庫及目標庫資訊。

類別	配置	說明
無	任務名稱	DTS會自動產生一個任務名稱，建議配置具有業務意義的名稱（無唯一性要求），便於後續識別。
源庫資訊	執行個體類型	根據源庫的部署位置進行選擇，本文以有公網IP的自建資料庫為例介紹配置流程。說明當自建資料庫為其他執行個體類型時，您還需要執行相應的準備工作，詳情請參見準備工作概覽。
	執行個體地區	當執行個體類型選擇為有公網IP的自建資料庫時，執行個體地區無需設定。說明如果您的自建Redis資料庫進行了白名單安全設定，您需要在執行個體地區配置項後，單擊擷取DTS IP段來擷取到DTS伺服器的IP地址，並將擷取到的IP地址加入自建Redis資料庫的白名單安全設定中。
	資料庫類型	選擇Redis。
	執行個體模式	固定為單機版，暫不支援叢集版。
	主機名稱或IP地址	填入自建Redis資料庫的訪問地址，本案例中填入公網地址。
	連接埠	填入自建Redis資料庫的服務連接埠，預設為6379。說明本案例中，該服務連接埠需開放至公網。
	資料庫密碼	填入自建Redis的資料庫密碼。說明源庫資訊填寫完畢後，您可以單擊資料庫密碼後的測試連接來驗證填入的源庫資訊是否正確。源庫資訊填寫正確則提示測試通過；如果提示測試失敗，單擊測試失敗後的診斷，根據提示調整填寫的源庫資訊。
目標庫資訊	執行個體類型	選擇Redis執行個體。
	執行個體地區	選擇目標Redis執行個體所屬地區。
	Redis執行個體ID	選擇目標Redis執行個體ID。
	資料庫密碼	填入目標Redis執行個體的資料庫密碼。說明目標庫資訊填寫完畢後，您可以單擊資料庫密碼後的測試連接來驗證填入的目標庫資訊是否正確。目標庫資訊填寫正確則提示測試通過；如果提示測試失敗，單擊測試失敗後的診斷，根據提示調整填寫的目標庫資訊。

配置完成後，單擊頁面右下角的授權白名單並進入下一步。

如果源或目標資料庫是阿里雲資料庫執行個體（例如RDS MySQL、ApsaraDB for MongoDB等），DTS會自動將對應地區DTS服務的IP地址添加到阿里雲資料庫執行個體的白名單；如果源或目標資料庫是ECS上的自建資料庫，DTS會自動將對應地區DTS服務的IP地址添加到ECS的安全規則中，您還需確保自建資料庫沒有限制ECS的訪問（若資料庫是叢集部署在多個ECS執行個體，您需要手動將DTS服務對應地區的IP地址添加到其餘每個ECS的安全規則中）；如果源或目標資料庫是IDC自建資料庫或其他雲資料庫，則需要您手動添加對應地區DTS服務的IP地址，以允許來自DTS伺服器的訪問。DTS服務的IP地址，請參見DTS伺服器的IP位址區段。

警告
DTS自動添加或您手動添加DTS服務的公網IP位址區段可能會存在安全風險，一旦使用本產品代表您已理解和確認其中可能存在的安全風險，並且需要您做好基本的安全防護，包括但不限於加強帳號密碼強度防範、限制各網段開放的連接埠號碼、內部各API使用鑒權方式通訊、定期檢查並限制不需要的網段，或者使用通過內網（專線/VPN網關/智能網關）的方式接入。

選擇遷移對象及遷移類型。

配置	說明
遷移類型	如果只需要進行全量遷移，則勾選全量資料移轉。如果需要進行不停機遷移，則同時勾選全量資料移轉和增量資料移轉。說明如果未勾選增量資料移轉，為保障資料一致性，資料移轉期間請勿在自建Redis資料庫中寫入新的資料。
遷移對象	在遷移對象框中單擊待遷移的資料庫，然後單擊將其移動至已選擇對象框。說明遷移對象選擇的粒度為庫。
映射名稱更改	不支援更改映射名稱。
源、目標庫無法串連重試時間	預設重試12小時，您也可以自訂重試時間。如果DTS在設定的時間內重新串連上源、目標庫，遷移任務將自動回復。否則，遷移任務將失敗。說明由於串連重試期間，DTS將收取任務運行費用，建議您根據業務需要自訂重試時間，或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。

上述配置完成後，單擊頁面右下角的預檢查並啟動。
說明
- 在遷移任務正式啟動之前，會先進行預檢查。只有預檢查通過後，才能成功啟動遷移任務。
- 如果預檢查失敗，單擊具體檢查項後的，查看失敗詳情。
  - 您可以根據提示修複後重新進行預檢查。
  - 如無需修複警示檢測項，您也可以選擇確認屏蔽、忽略警示項並重新進行預檢查，跳過警示檢測項重新進行預檢查。
預檢查通過後，單擊下一步。
在購買配置確認頁面，選擇鏈路規格並選中資料轉送（隨用隨付）服務條款。
單擊購買並啟動，遷移任務正式開始。
- 全量資料移轉
  
  請勿手動結束遷移任務，否則可能導致資料不完整。您只需等待遷移任務完成即可，遷移任務會自動結束。
- 增量資料移轉
  
  遷移任務不會自動結束，您需要手動結束遷移任務。
  
  說明
  請選擇合適的時間手動結束遷移任務，例如業務低峰期或準備將業務切換至目標執行個體時。
  1. 觀察遷移任務的進度變更為增量遷移，並顯示為無延遲時，將源庫停寫幾分鐘，此時增量遷移可能會顯示延遲的時間。
  2. 等待遷移任務的增量遷移再次進入無延遲後，手動結束遷移任務。遷移任務的結構遷移和全量遷移進度均顯示為100%。如需暫停遷移任務，可勾選目標任務，然後在底部大量操作欄單擊暫停。
將業務切換至Redis執行個體。

後續操作

用於資料移轉的資料庫帳號擁有讀寫權限，為保障資料庫安全性，請在資料移轉完成後，修改自建Redis資料庫和阿里雲Redis執行個體中的資料庫密碼。