從自建PostgreSQL（10.0及以下版本）增量遷移至RDS PostgreSQL

本文介紹如何使用Data Transmission Service，將自建PostgreSQL增量遷移至RDS PostgreSQL執行個體。DTS支援結構遷移、全量資料移轉和增量資料移轉，同時使用這三種遷移類型可以實現在自建應用不停服的情況下，平滑地完成自建PostgreSQL資料庫遷移上雲。

本文以有公網IP的自建資料庫為例介紹增量資料移轉的配置流程。如您僅需要全量資料移轉，請參見從自建PostgreSQL全量遷移至RDS PostgreSQL。

前提條件

自建PostgreSQL資料庫版本為9.4.8及以上、9.5、9.6或10.0版本。
RDS PostgreSQL執行個體的儲存空間須大於自建PostgreSQL資料庫佔用的儲存空間。
自建PostgreSQL資料庫的服務連接埠已開放至公網。

注意事項

DTS在執行全量資料移轉時將佔用源庫和目標庫一定的讀寫資源，可能會導致資料庫的負載上升，在資料庫效能較差、規格較低或業務量較大的情況下（例如源庫有大量慢SQL、存在無主鍵表或目標庫存在死結等），可能會加重資料庫壓力，甚至導致資料庫服務不可用。因此您需要在執行資料移轉前評估源庫和目標庫的效能，同時建議您在業務低峰期執行資料移轉（例如源庫和目標庫的CPU負載在30%以下）。
在增量資料移轉過程中，如果遷移對象的選擇粒度為Schema，在待遷移的Schema中建立了新的表或使用RENAME命令重建了待遷移的表，您需要在對該表寫入資料前執行ALTER TABLE schema.table REPLICA IDENTITY FULL;命令。
說明將上述命令中的schema和table替換成真實的Schema名和表名。
如果源庫中待遷移的表沒有主鍵或唯一約束，且所有欄位沒有唯一性，可能會導致目標資料庫中出現重複資料。
對於遷移失敗的任務，DTS會觸發自動回復。當您需要將業務切換至目標執行個體，請務必先終止或釋放該任務，避免該任務被自動回復後，導致源端資料覆蓋目標執行個體的資料。
若源庫有長事務，且執行個體包含增量遷移任務，則可能會導致源庫長事務提交前的預寫記錄檔WAL（Write-Ahead Logging）無法清理而堆積，從而造成源庫磁碟空間不足。

遷移限制

一個資料移轉任務只能對一個資料庫進行資料移轉，如果有多個資料庫需要遷移，則需要為每個資料庫建立資料移轉任務。
待遷移的資料庫名稱中間不能包含短劃線（-），例如dts-testdata。
如果遷移過程中源庫發生了主備切換，DTS的增量資料移轉無法實現斷點續傳。
由於源庫的主備節點可能存在同步延遲導致資料不一致，執行資料移轉時請使用源庫的主節點作為遷移的資料來源。
說明為避免資料移轉對業務的影響，請在業務低峰期執行資料移轉，您還可以根據源庫的讀寫壓力情況調整遷移速率，詳情請參見調整全量遷移速率。
DTS的校正對象為資料內容，暫不支援Sequence等中繼資料的校正，您需要自行校正。

由於業務切換到目標端後，新寫入的Sequence不會按照源庫的Sequence最大值作為初始值去遞增，您需要在業務切換前，在源庫中查詢對應Sequence的最大值，然後在目標庫中將其作為對應Sequence的初始值。查詢源庫Sequence值的相關命令如下：

do language plpgsql $$
declare
  nsp name;
  rel name;
  val int8;
begin
  for nsp,rel in select nspname,relname from pg_class t2 , pg_namespace t3 where t2.relnamespace=t3.oid and t2.relkind='S'
  loop
    execute format($_$select last_value from %I.%I$_$, nsp, rel) into val;
    raise notice '%',
    format($_$select setval('%I.%I'::regclass, %s);$_$, nsp, rel, val+1);
  end loop;
end;
$$;

為保障遷移任務的正常進行，目前僅支援RDS PostgreSQL 11進行主備切換，且需設定參數 rds_failover_slot_mode為sync，設定方式，請參見邏輯複製槽容錯移轉（Logical Replication Slot Failover）。
警告自建PostgreSQL和其他版本的RDS PostgreSQL進行主備切換，會導致遷移中斷。
增量資料移轉階段僅支援DML操作（INSERT、DELETE、UPDATE）的同步。
說明僅2020年10月1日後建立的資料移轉任務支援同步DDL操作，您需要在配置遷移任務前，在源庫中建立觸發器和函數來捕獲DDL資訊，詳情請參見通過觸發器和函數實現PostgreSQL的DDL增量遷移。

費用說明

遷移類型	鏈路配置費用	公網流量費用
結構遷移和全量資料移轉	不收費。	當目標庫的接入方式為公網IP時收取公網流量費用。更多資訊，請參見計費概述。
增量資料移轉	收費，詳情請參見計費概述。	當目標庫的接入方式為公網IP時收取公網流量費用。更多資訊，請參見計費概述。

資料庫帳號的許可權要求

資料庫	結構遷移	全量遷移	增量遷移
自建PostgreSQL資料庫	pg_catalog的usage許可權	遷移對象的select許可權	superuser
RDS PostgreSQL執行個體	遷移對象的create、usage許可權	schema的owner許可權	schema的owner許可權

資料庫帳號建立及授權方法：

自建PostgreSQL資料庫請參見CREATE USER和GRANT文法。
RDS PostgreSQL執行個體請參見建立帳號。

資料移轉流程說明

為解決對象間的依賴，提高遷移成功率，DTS對PostgreSQL結構及資料的遷移順序如下表所示。

說明關於結構遷移、全量資料移轉、增量資料移轉的術語介紹，請參見基本概念。

DTS自動執行的遷移流程	遷移說明
1.結構遷移	DTS遷移TABLE、VIEW、SEQUENCE、FUNCTION、USER DEFINED TYPE、RULE、DOMAIN、OPERATION、AGGREGATE的結構資訊至目標庫。說明不支援遷移外掛程式、使用C語言編寫的FUNCTION。
2.全量資料移轉	DTS將遷移對象的存量資料全部遷移至目標庫。
3.結構遷移	DTS遷移TRIGGER、FOREIGN KEY的結構資訊至目標庫。
4.增量資料移轉	在全量資料移轉的基礎上，DTS將遷移對象的累加式更新遷移至目標庫。通過增量資料移轉可以實現在自建應用不停服的情況下，平滑地完成資料移轉。說明增量資料移轉階段僅支援DML操作（INSERT、DELETE、UPDATE）的同步。增量資料移轉階段不支援遷移bit類型的資料。

準備工作

說明為Linux系統的操作步驟。

可選：下載PostgreSQL源碼並完成編譯安裝。
說明若自建PostgreSQL是通過源碼安裝部署，則無需執行此操作。
1. 根據源自建PostgreSQL的版本，從PostgreSQL官網下載對應版本的源碼。
2. 依次執行如下命令，配置、編譯並安裝源碼。
```
sudo ./configure --prefix=/usr/local/postgresql
sudo make
sudo make install
```
  重要
  - prefix參數值不能與自建PostgreSQL的安裝路徑相同。
  - 編譯安裝PostgreSQL時，PostgreSQL的作業系統版本需與GCC（GNU編譯器套件）版本保持一致。
  - 如執行sudo ./configure遇到報錯，您可以根據報錯提示調整命令。例如，報錯資訊為readline library not found. Use --without-readline to disable readline support.，則您可以調整命令為sudo ./configure --without-readline.
  - 如您選擇其他方式安裝PostgreSQL，需要在系統版本以及GCC版本相同的測試環境下，編譯ali_decoding。

利用PostgreSQL源碼編譯產生新ali_decoding檔案，替換源自建PostgreSQL中的舊ali_decoding檔案。

下載DTS提供的ali_decoding。
說明您也可以在在Linux系統中分別執行如下命令，下載並解壓ali_decoding外掛程式。
```
sudo wget https://github.com/aliyun/rds_dbsync/archive/refs/heads/master.zip
unzip master.zip
```

執行如下命令，將ali_decoding整個目錄拷貝至PostgreSQL（已完成編譯安裝）的contrib目錄中。

sudo cp rds_dbsync-master/ali_decoding /tmp/postgresql-9.4.26/contrib/ -r

說明 /tmp/postgresql-9.4.26/contrib/需要替換為PostgreSQL源碼對應的目錄。

總用量 1068
-rw-r--r--  1 1107 1107    384 9月  27 2016 aclocal.m4
drwxrwxrwx  2 1107 1107   4096 9月  27 2016 config
-rw-r--r--  1 root root 374806 9月   7 10:10 config.log
-rwxr-xr-x  1 root root  39032 9月   7 10:10 config.status
-rwxr-xr-x  1 1107 1107 471157 9月  27 2016 configure
-rw-r--r--  1 1107 1107  75195 9月  27 2016 configure.in
drwxrwxrwx 56 1107 1107   4096 9月   7 10:28 contrib
-rw-r--r--  1 1107 1107   1192 9月  27 2016 COPYRIGHT
drwxrwxrwx  3 1107 1107   4096 9月  27 2016 doc
-rw-r--r--  1 root root   3638 9月   7 10:10 GNUmakefile
-rw-r--r--  1 1107 1107   3638 9月  27 2016 GNUmakefile.in
-rw-r--r--  1 1107 1107    283 9月  27 2016 HISTORY
-rw-r--r--  1 1107 1107  75065 9月  27 2016 INSTALL
-rw-r--r--  1 1107 1107   1489 9月  27 2016 Makefile
-rw-r--r--  1 1107 1107   1209 9月  27 2016 README
drwxrwxrwx 16 1107 1107   4096 9月   7 10:10 src

進入ali_decoding目錄，將Makefile檔案的內容替換為如下：

# contrib/ali_decoding/Makefile
MODULE_big = ali_decoding
MODULES = ali_decoding
OBJS    = ali_decoding.o
DATA = ali_decoding--0.0.1.sql ali_decoding--unpackaged--0.0.1.sql
EXTENSION = ali_decoding
NAME = ali_decoding
#subdir = contrib/ali_decoding
#top_builddir = ../..
#include $(top_builddir)/src/Makefile.global
#include $(top_srcdir)/contrib/contrib-global.mk
#PG_CONFIG = /usr/pgsql-9.6/bin/pg_config
#pgsql_lib_dir := $(shell $(PG_CONFIG) --libdir)
#PGXS := $(shell $(PG_CONFIG) --pgxs)
#include $(PGXS)
# 源碼安裝用以下
ifdef USE_PGXS
PG_CONFIG = pg_config
PGXS := $(shell $(PG_CONFIG) --pgxs)
include $(PGXS)
else
subdir = contrib/ali_decoding
top_builddir = ../..
include $(top_builddir)/src/Makefile.global
include $(top_srcdir)/contrib/contrib-global.mk
endif

可選：若自建PostgreSQL的版本為9.4（9.4.8~9.4.26），您需要修改ali_decoding.c檔案中的set_config_option函數（刪掉false參數），修改後的函數：

    if (extra_float_digits < 3)
        (void) set_config_option("extra_float_digits", "3",
                PGC_USERSET, PGC_S_SESSION,
                GUC_ACTION_SAVE, true, 0);

進入ali_decoding目錄，依次執行命令sudo make和sudo make install，編譯ali_decoding，並產生安裝ali_decoding所需的檔案。執行sudo make install後，預期輸出如下。

/usr/bin/install -c -m 755  ali_decoding.so '/usr/local/pgsql/lib/ali_decoding.so'
/usr/bin/install -c -m 644 ./ali_decoding.control '/usr/local/pgsql/share/extension/'
/usr/bin/install -c -m 644 ./ali_decoding--0.0.1.sql ./ali_decoding--unpackaged--0.0.1.sql  '/usr/local/pgsql/share/extension/'
/usr/bin/install -c -m 755  ali_decoding.so '/usr/local/pgsql/lib/'

將產生的ali_decoding檔案複製到源自建PostgreSQL中，替換源自建PostgreSQL的如下路徑中的ali_decoding檔案。

說明如下路徑中的/usr/local/postgresql需要替換為源自建PostgreSQL的安裝路徑。

/usr/local/postgresql/lib/ali_decoding.so
/usr/local/postgresql/share/extension/ali_decoding.control 
/usr/local/postgresql/share/extension/ali_decoding--0.0.1.sql 
/usr/local/postgresql/share/extension/ali_decoding--unpackaged--0.0.1.sql

根據待遷移對象所屬的資料庫和Schema資訊，在目標RDS PostgreSQL中建立相應資料庫和Schema（Schema名稱須一致），詳情請參見建立資料庫和Schema 管理。

操作步驟

登入資料轉送控制台。

說明
若資料轉送控制台自動跳轉至Data Management控制台，您可以在右下角的中單擊，返回至舊版資料轉送控制台。
在左側導覽列，單擊資料移轉。
在遷移工作清單頁面頂部，選擇遷移的目標執行個體所屬地區。
單擊頁面右上方的建立遷移任務。

配置遷移任務的源庫及目標庫資訊。

類別	配置	說明
無	任務名稱	DTS會自動產生一個任務名稱，建議配置具有業務意義的名稱（無唯一性要求），便於後續識別。
源庫資訊	執行個體類型	根據源庫的部署位置進行選擇，本文以有公網IP的自建資料庫為例介紹配置流程。說明當自建資料庫為其他執行個體類型時，您還需要執行相應的準備工作，詳情請參見準備工作概覽。
	執行個體地區	當執行個體類型選擇為有公網IP的自建資料庫時，執行個體地區無需設定。說明如果您的自建PostgreSQL資料庫進行了白名單安全設定，您需要在執行個體地區配置項後，單擊擷取DTS IP段來擷取到DTS伺服器的IP地址，並將擷取到的IP地址加入自建PostgreSQL資料庫的白名單安全設定中。
	資料庫類型	選擇PostgreSQL。
	主機名稱或IP地址	填入自建PostgreSQL資料庫的訪問地址，本案例中填入公網地址。
	連接埠	填入自建PostgreSQL資料庫的服務連接埠，預設為5432。
	資料庫名稱	填入自建PostgreSQL資料庫中待遷移的資料庫名。
	資料庫帳號	填入自建PostgreSQL的資料庫帳號，許可權要求請參見資料庫帳號的許可權要求。
	資料庫密碼	填入該資料庫帳號對應的密碼。說明源庫資訊填寫完畢後，您可以單擊資料庫密碼後的測試連接來驗證填入的源庫資訊是否正確。源庫資訊填寫正確則提示測試通過；如果提示測試失敗，單擊測試失敗後的診斷，根據提示調整填寫的源庫資訊。
目標庫資訊	執行個體類型	選擇RDS執行個體。
	執行個體地區	選擇目標RDS執行個體所屬地區。
	RDS執行個體ID	選擇目標RDS執行個體ID。
	資料庫名稱	填入RDS執行個體中待遷入資料的資料庫名，可以和自建PostgreSQL中待遷移的資料庫名不同。說明您需要先在RDS執行個體中建立相應的資料庫和schema，詳情請參見準備工作。
	資料庫帳號	填入目標RDS的資料庫帳號，許可權要求請參見資料庫帳號的許可權要求。
	資料庫密碼	填入該資料庫帳號對應的密碼。說明目標庫資訊填寫完畢後，您可以單擊資料庫密碼後的測試連接來驗證填入的目標庫資訊是否正確。目標庫資訊填寫正確則提示測試通過；如果提示測試失敗，單擊測試失敗後的診斷，根據提示調整填寫的目標庫資訊。

配置完成後，單擊頁面右下角的授權白名單並進入下一步。
如果源或目標資料庫是阿里雲資料庫執行個體（例如RDS MySQL、ApsaraDB for MongoDB等），DTS會自動將對應地區DTS服務的IP地址添加到阿里雲資料庫執行個體的白名單；如果源或目標資料庫是ECS上的自建資料庫，DTS會自動將對應地區DTS服務的IP地址添加到ECS的安全規則中，您還需確保自建資料庫沒有限制ECS的訪問（若資料庫是叢集部署在多個ECS執行個體，您需要手動將DTS服務對應地區的IP地址添加到其餘每個ECS的安全規則中）；如果源或目標資料庫是IDC自建資料庫或其他雲資料庫，則需要您手動添加對應地區DTS服務的IP地址，以允許來自DTS伺服器的訪問。DTS服務的IP地址，請參見DTS伺服器的IP位址區段。

警告
DTS自動添加或您手動添加DTS服務的公網IP位址區段可能會存在安全風險，一旦使用本產品代表您已理解和確認其中可能存在的安全風險，並且需要您做好基本的安全防護，包括但不限於加強帳號密碼強度防範、限制各網段開放的連接埠號碼、內部各API使用鑒權方式通訊、定期檢查並限制不需要的網段，或者使用通過內網（專線/VPN網關/智能網關）的方式接入。

選擇遷移對象及遷移類型。

配置	說明
遷移類型	如果只需要進行全量資料移轉，則同時選中結構遷移和全量資料移轉。如果需要進行不停機遷移，則同時選中結構遷移、全量資料移轉和增量資料移轉。本案例中同時選中這三種遷移類型。說明如果未選中增量資料移轉，為保障資料一致性，全量資料移轉期間請勿在自建PostgreSQL資料庫中寫入新的資料。
遷移對象	在遷移對象框中單擊待遷移的對象，然後單擊表徵圖將其移動至已選擇對象框。說明遷移對象選擇的粒度為Schema、表、列。預設情況下，遷移完成後，遷移對象名跟自建PostgreSQL資料庫一致。如果您需要遷移對象在目標RDS執行個體上名稱不同，那麼需要使用DTS提供的對象名映射功能。使用方法請參見庫表列映射。如果使用了對象名映射功能，可能會導致依賴這個對象的其他對象遷移失敗。
映射名稱更改	如需更改遷移對象在目標執行個體中的名稱，請使用對象名映射功能，詳情請參見庫表列映射。
源、目標庫無法串連重試時間	預設重試12小時，您也可以自訂重試時間。如果DTS在設定的時間內重新串連上源、目標庫，遷移任務將自動回復。否則，遷移任務將失敗。說明由於串連重試期間，DTS將收取任務運行費用，建議您根據業務需要自訂重試時間，或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。

上述配置完成後，單擊頁面右下角的預檢查並啟動。
說明
- 在遷移任務正式啟動之前，會先進行預檢查。只有預檢查通過後，才能成功啟動遷移任務。
- 如果預檢查失敗，單擊具體檢查項後的，查看失敗詳情。
  - 您可以根據提示修複後重新進行預檢查。
  - 如無需修複警示檢測項，您也可以選擇確認屏蔽、忽略警示項並重新進行預檢查，跳過警示檢測項重新進行預檢查。
預檢查通過後，單擊下一步。
在購買配置確認頁面，選擇鏈路規格並選中資料轉送（隨用隨付）服務條款。
單擊購買並啟動，遷移任務正式開始。
- 全量資料移轉
  
  請勿手動結束遷移任務，否則可能導致資料不完整。您只需等待遷移任務完成即可，遷移任務會自動結束。
- 增量資料移轉
  
  遷移任務不會自動結束，您需要手動結束遷移任務。
  
  說明
  請選擇合適的時間手動結束遷移任務，例如業務低峰期或準備將業務切換至目標執行個體時。
  1. 觀察遷移任務的進度變更為增量遷移，並顯示為無延遲時，將源庫停寫幾分鐘，此時增量遷移可能會顯示延遲的時間。
  2. 等待遷移任務的增量遷移再次進入無延遲後，手動結束遷移任務。遷移任務的結構遷移和全量遷移進度均顯示為100%。如需暫停遷移任務，可勾選目標任務，然後在底部大量操作欄單擊暫停。
將業務切換至RDS執行個體。

後續操作

用於資料移轉的資料庫帳號擁有讀寫權限，為保障資料庫安全性，請在資料移轉完成後，刪除自建PostgreSQL資料庫和RDS PostgreSQL執行個體中的資料庫帳號。