從自建PostgreSQL全量遷移至RDS PostgreSQL

背景資訊

• 本文以有公網IP的自建資料庫為例介紹全量資料移轉的配置流程。為保障資料一致性，全量資料移轉期間請勿在自建PostgreSQL資料庫中寫入新的資料。如果要實現不停機遷移，請參見從自建PostgreSQL（10.1~13版本）增量遷移至RDS PostgreSQL和從自建PostgreSQL（10.0及以下版本）增量遷移至RDS PostgreSQL。
• 自建PostgreSQL全量遷移至RDS PostgreSQL也可以通過使用邏輯備份進行快速恢複，具體操作，請參見使用pg_restore恢複邏輯備份檔案資料。

前提條件

• 自建PostgreSQL資料庫版本為9.2、9.3、9.4、9.5、9.6、10.x、11、12、13版本。
• RDS PostgreSQL執行個體的儲存空間須大於自建PostgreSQL資料庫佔用的儲存空間。
• 自建PostgreSQL資料庫的服務連接埠已開放至公網。

注意事項

• DTS在執行全量資料移轉時將佔用源庫和目標庫一定的讀寫資源，可能會導致資料庫的負載上升，在資料庫效能較差、規格較低或業務量較大的情況下（例如源庫有大量慢SQL、存在無主鍵表或目標庫存在死結等），可能會加重資料庫壓力，甚至導致資料庫服務不可用。因此您需要在執行資料移轉前評估源庫和目標庫的效能，同時建議您在業務低峰期執行資料移轉（例如源庫和目標庫的CPU負載在30%以下）。

• 待遷移的資料庫名稱中間不能包含短劃線（-），例如dts-testdata。

• 如果源庫中待遷移的表沒有主鍵或唯一約束，且所有欄位沒有唯一性，可能會導致目標資料庫中出現重複資料。

• 一個資料移轉任務只能對一個資料庫進行資料移轉，如果有多個資料庫需要遷移，則需要為每個資料庫建立資料移轉任務。
• 為保障遷移任務的正常進行，目前僅支援RDS PostgreSQL 11進行主備切換，且需設定參數 rds_failover_slot_mode為sync，設定方式，請參見邏輯複製槽容錯移轉（Logical Replication Slot Failover）。
  警告 自建PostgreSQL和其他版本的RDS PostgreSQL進行主備切換，會導致遷移中斷。
• 對於遷移失敗的任務，DTS會觸發自動回復。當您需要將業務切換至目標執行個體，請務必先終止或釋放該任務，避免該任務被自動回復後，導致源端資料覆蓋目標執行個體的資料。
• 若源庫有長事務，且執行個體包含增量遷移任務，則可能會導致源庫長事務提交前的預寫記錄檔WAL（Write-Ahead Logging）無法清理而堆積，從而造成源庫磁碟空間不足。

遷移類型說明

• 結構遷移

  DTS將遷移對象的結構定義遷移到目標執行個體，目前DTS支援結構遷移的對象為table、trigger、view、sequence、function、user defined type、rule、domain、operation、aggregate。

• 全量資料移轉

  DTS會將自建PostgreSQL資料庫遷移對象的存量資料，全部遷移到目標RDS PostgreSQL資料庫中。

費用說明

資料庫帳號的許可權要求

資料庫帳號建立及授權方法：

• 自建PostgreSQL資料庫請參見CREATE USER和GRANT文法。
• RDS PostgreSQL執行個體請參見建立帳號。

全量資料移轉流程

為解決對象間的依賴，提高遷移成功率，DTS對PostgreSQL結構和資料的遷移流程如下：

1. 進行Table、view、sequence、function、user defined type、rule、domain、operation、aggregate的結構遷移。
   說明 不支援遷移外掛程式、使用C語言編寫的function。
2. 進行全量資料移轉。
3. 進行trigger、foreign key的結構遷移。

遷移前準備工作

根據待遷移對象所屬的資料庫和schema資訊，在目標RDS PostgreSQL中建立相應資料庫和schema（schema名稱須一致），詳情請參見建立資料庫和schema管理。

操作步驟

1. 登入資料轉送控制台。

   說明

   若資料轉送控制台自動跳轉至Data Management控制台，您可以在右下角的中單擊，返回至舊版資料轉送控制台。

2. 在左側導覽列，單擊資料移轉。

3. 在遷移工作清單頁面頂部，選擇遷移的目標執行個體所屬地區。

4. 單擊頁面右上方的建立遷移任務。

5. 配置遷移任務的源庫及目標庫資訊。

   類別	配置	說明
   無	任務名稱	DTS會自動產生一個任務名稱，建議配置具有業務意義的名稱（無唯一性要求），便於後續識別。
   源庫資訊	執行個體類型	根據源庫的部署位置進行選擇，本文以有公網IP的自建資料庫為例介紹配置流程。 說明 當自建資料庫為其他執行個體類型時，您還需要執行相應的準備工作，詳情請參見準備工作概覽。
   	執行個體地區	當執行個體類型選擇為有公網IP的自建資料庫時，執行個體地區無需設定。 說明 如果您的自建PostgreSQL資料庫進行了白名單安全設定，您需要在執行個體地區配置項後，單擊擷取DTS IP段來擷取到DTS伺服器的IP地址，並將擷取到的IP地址加入自建PostgreSQL資料庫的白名單安全設定中。
   	資料庫類型	選擇PostgreSQL。
   	主機名稱或IP地址	填入自建PostgreSQL資料庫的訪問地址，本案例中填入公網地址。
   	連接埠	填入自建PostgreSQL資料庫的服務連接埠，預設為5432。
   	資料庫名稱	填入自建PostgreSQL資料庫中待遷移的資料庫名。
   	資料庫帳號	填入自建PostgreSQL的資料庫帳號，許可權要求請參見資料庫帳號的許可權要求。
   	資料庫密碼	填入該資料庫帳號對應的密碼。 說明 源庫資訊填寫完畢後，您可以單擊資料庫密碼後的測試連接來驗證填入的源庫資訊是否正確。源庫資訊填寫正確則提示測試通過；如果提示測試失敗，單擊測試失敗後的診斷，根據提示調整填寫的源庫資訊。
   目標庫資訊	執行個體類型	選擇RDS執行個體。
   	執行個體地區	選擇目標RDS執行個體所屬地區。
   	RDS執行個體ID	選擇目標RDS執行個體ID。
   	資料庫名稱	填入RDS執行個體中待遷入資料的資料庫名，可以和自建PostgreSQL中待遷移的資料庫名不同。 說明 您需要先在RDS執行個體中建立相應的資料庫和schema，詳情請參見遷移前準備工作。
   	資料庫帳號	填入目標RDS執行個體的資料庫帳號，許可權要求請參見資料庫帳號的許可權要求。
   	資料庫密碼	填入該資料庫帳號對應的密碼。 說明 目標庫資訊填寫完畢後，您可以單擊資料庫密碼後的測試連接來驗證填入的目標庫資訊是否正確。目標庫資訊填寫正確則提示測試通過；如果提示測試失敗，單擊測試失敗後的診斷，根據提示調整填寫的目標庫資訊。

6. 配置完成後，單擊頁面右下角的授權白名單並進入下一步。

   如果源或目標資料庫是阿里雲資料庫執行個體（例如RDS MySQL、ApsaraDB for MongoDB等），DTS會自動將對應地區DTS服務的IP地址添加到阿里雲資料庫執行個體的白名單；如果源或目標資料庫是ECS上的自建資料庫，DTS會自動將對應地區DTS服務的IP地址添加到ECS的安全規則中，您還需確保自建資料庫沒有限制ECS的訪問（若資料庫是叢集部署在多個ECS執行個體，您需要手動將DTS服務對應地區的IP地址添加到其餘每個ECS的安全規則中）；如果源或目標資料庫是IDC自建資料庫或其他雲資料庫，則需要您手動添加對應地區DTS服務的IP地址，以允許來自DTS伺服器的訪問。DTS服務的IP地址，請參見DTS伺服器的IP位址區段。

   警告

   DTS自動添加或您手動添加DTS服務的公網IP位址區段可能會存在安全風險，一旦使用本產品代表您已理解和確認其中可能存在的安全風險，並且需要您做好基本的安全防護，包括但不限於加強帳號密碼強度防範、限制各網段開放的連接埠號碼、內部各API使用鑒權方式通訊、定期檢查並限制不需要的網段，或者使用通過內網（專線/VPN網關/智能網關）的方式接入。

7. 選擇遷移對象及遷移類型。

   配置	說明
   遷移類型	如果只需要進行全量資料移轉，則同時勾選結構遷移和全量資料移轉。 如果需要進行不停機遷移，則同時勾選結構遷移、全量資料移轉和增量資料移轉。 本案例為全量資料移轉，遷移類型中勾選結構遷移和全量資料移轉。 說明 為保障資料一致性，資料移轉期間請勿在自建PostgreSQL資料庫中寫入新的資料。
   遷移對象	在遷移對象框中單擊待遷移的對象，然後單擊將其移動至已選擇對象框。 說明 遷移對象選擇的粒度為Schema、表、列。 預設情況下，遷移對象在目標庫中的名稱與源庫保持一致。如果您需要改變遷移對象在目標庫中的名稱，需要使用對象名映射功能，詳情請參見庫表列映射。 如果使用了對象名映射功能，可能會導致依賴這個對象的其他對象遷移失敗。
   映射名稱更改	如需更改遷移對象在目標執行個體中的名稱，請使用對象名映射功能，詳情請參見庫表列映射。
   源、目標庫無法串連重試時間	預設重試12小時，您也可以自訂重試時間。如果DTS在設定的時間內重新串連上源、目標庫，遷移任務將自動回復。否則，遷移任務將失敗。 說明 由於串連重試期間，DTS將收取任務運行費用，建議您根據業務需要自訂重試時間，或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。

8. 上述配置完成後，單擊頁面右下角的預檢查並啟動。

   說明

   • 在遷移任務正式啟動之前，會先進行預檢查。只有預檢查通過後，才能成功啟動遷移任務。

   • 如果預檢查失敗，單擊具體檢查項後的，查看失敗詳情。

     • 您可以根據提示修複後重新進行預檢查。

     • 如無需修複警示檢測項，您也可以選擇確認屏蔽、忽略警示項並重新進行預檢查，跳過警示檢測項重新進行預檢查。

9. 預檢查通過後，單擊下一步。

10. 在購買配置確認頁面，選擇鏈路規格並選中資料轉送（隨用隨付）服務條款。

11. 單擊購買並啟動，遷移任務正式開始。
    說明 請勿手動結束遷移任務，否則可能會導致資料不完整。您只需等待遷移任務完成即可，遷移任務會自動結束。
12. 將業務切換至RDS執行個體。

後續操作

用於資料移轉的資料庫帳號擁有讀寫權限，為保障資料庫安全性，請在資料移轉完成後，刪除自建PostgreSQL資料庫和RDS PostgreSQL執行個體中的資料庫帳號。