MySQL到LogHub(SLS)整庫即時同步鏈路支援將增量資料即時同步至目標端。本文將為您介紹如何建立整庫即時同步MySQL到LogHub的任務,並在建立完成後查看任務運行情況。
前提條件
操作步驟
一、選擇同步任務類型
進入Data Integration頁面。
登入DataWorks控制台,切換至目標地區後,單擊左側導覽列的,在下拉框中選擇對應工作空間後單擊進入Data Integration。
在左側導覽列單擊同步任務,然後在頁面頂部單擊建立同步任務,在同步任務的建立頁面彈窗,配置如下基本資料。
資料來源:
MySQL。資料去向:
LogHub。任務名稱:自訂同步任務名稱。
任務類型:
整庫即時。
二、網路與資源配置
在網路與資源配置地區,選擇同步任務所使用的資源群組。您可以為該任務分配任務資源佔用CU數。
來來源資料源選擇已添加的
MySQL資料來源,去向資料來源選擇已添加的LogHub資料來源後,單擊測試連通性。
確保來來源資料源與去向資料來源均連通成功後,單擊下一步。
三、選擇要同步的庫表
此步驟中,您可以在源端庫表地區選取項目源端資料來源下需要同步的表,並單擊
表徵圖,將其移動至右側已選庫表。

選擇指定庫表:
在源端庫表的庫過濾和表過濾中,可通過輸入庫名或表名的特徵資訊篩選需要同步的庫表。勾選所有需要同步的庫表資料,單擊
表徵圖,將其移動至已選庫表地區。在已選庫表的庫過濾和表過濾中,可通過輸入庫名或表名的特徵資訊篩選無需同步的庫表。勾選所有無需同步的庫表資料,單擊
表徵圖,將其移動至源端庫表地區。
使用正則選表(支援運行中按正則加減表):
通過庫過濾和表過濾中配置的Regex篩選表資訊。單擊確認選擇您所需同步的庫表資料。
說明例如,若需篩選同步庫名首碼為
a且表名首碼為order的庫表資訊,可在庫過濾框中輸入a.*,在表過濾框中輸入order.*。
四、目標表映射
在上一步驟選擇完需要同步的表後,將自動在此介面展示當前待同步的表,但目標表的相關屬性預設為待重新整理映射狀態,需要您定義並確認源表與目標表映射關係,即資料的讀取與寫入關係,然後單擊重新整理映射後才可進入下一步操作。您可以直接重新整理映射,或自訂目標表規則後,再重新整理映射。
1. 選擇目標logstore
您需要在目標logstore列下拉選擇同步任務目標端logstore,您也可以選中多個表,然後單擊大量設定。
2. 配置DML規則
Data Integration提供預設DML處理規則,同時,您可以根據業務需要在此介面對寫入目標表的DML命令定義處理規則。
單表定義規則:單擊表格DML規則配置列的配置,對目標表單獨定義DML規則。
批量定義規則:選中待同步的所有表,在列表底部選擇。
五、警示配置
為避免任務出錯導致業務資料同步延遲,您可以對同步任務設定警示策略。
單擊頁面右上方的警示配置,進入即時子任務警示設定頁面。
單擊新增警示,配置警示規則。
說明此處定義的警示規則,將對該任務產生的即時同步子任務生效,您可在任務配置完成後,進入即時同步任務運行與管理介面查看並修改該即時同步子任務的監控警示規則。
管理警示規則。
對於已建立的警示規則,您可以通過警示開關控制警示規則是否開啟,同時,您可以根據警示層級將警示發送給不同的人員。
六、進階參數配置
如果需要對任務做精細化配置,達到自訂同步需求,可以單擊自訂進階參數列的配置,修改進階參數。
單擊介面右上方的進階參數配置,進入進階參數配置頁面。
以下為關鍵參數內容說明:
參數名稱
功能說明
是否展開業務資料
控制是否將源表的業務資料欄位平鋪到日誌的頂層。
true:展開。展開格式可在資料展開格式中選擇部分展開或全展開。
false(預設):不展開,資料封裝在整個JSON欄位內。
是否透傳DDL資訊
控制是否採集源表的DDL操作資訊(如
CREATE TABLE,ALTER TABLE)作為一條日誌同步到SLS。true(預設):透傳。
false:不透傳。
來源Null值處理策略
配置源端表欄位資料為NULL時,寫入目標欄位的填儲值。預設為空白,即保留NULL值。
資料展開格式
定義業務資料(
data欄位)在寫入SLS時的結構(僅在是否展開業務資料選項為true時可見)。選擇不同的格式會直接影響下遊系統消費日誌的方式。資料展開的格式案例參見:附錄:資料展開格式舉例。部分展開(預設):相容Logtail MySQL Binlog的採集格式。
全展開:將所有業務資料欄位(包括變更前和變更後的)作為獨立的頂級索引值對(Key-Value)平鋪在資料中。
七、資源群組配置
您可以單擊介面右上方的資源群組配置,查看並切換當前的任務所使用的資源群組。
八、執行同步任務
完成所有配置後,單擊儲存或完成配置,儲存任務。
在介面,找到已建立的同步任務,單擊操作列的發布。發布時若勾選發布後直接啟動運行,則單擊確認後,任務會立即執行,否則需要手動啟動。
說明Data Integration的任務需要發布至生產環境運行,因此建立或者編輯任務均需執行發布操作後方可生效。
單擊工作清單中對應任務的名稱/ID,查看任務的詳細執行過程。
同步任務營運
查看任務運行狀態
建立完成同步任務後,您可以在同步任務頁面查看當前已建立的同步工作清單及各個同步任務的基本資料。
您可以在操作列啟動或停止同步任務,在更多中可以對同步任務進行編輯、查看等操作。
已啟動的任務您可以在執行概況中看到任務啟動並執行基本情況,也可以單擊對應的概況地區查看執行詳情。

MySQL到LogHub(SLS)的整庫即時同步任務展示即時同步的統計資訊(即時的進度、DDL記錄、DML記錄和警示資訊)。
任務重跑
在某些特殊情況下,如果您需要增減表、修改目標表Schema資訊或者表名資訊時,您還可以單擊同步任務操作列的重跑,系統會將新增的表或有變更的表進行同步,之前同步過的表或者未修改的表將不會再進行同步。
直接單擊重跑操作,重新運行全量初始化+即時同步。
編輯任務,進行增減表操作後,儲存任務並發布。這個時候任務的操作列會顯示應用程式更新,單擊應用程式更新會直接觸發修改後的任務重跑。此時新增或變更的表才會進行同步,之前同步過的表不會再同步。
附錄:資料展開格式舉例
不展開
{ "ExecutionTime": 1761017850000, "_db_": "*****", "_event_": "row_update", "_event_time_": 1761017850, "_file_name_": "mysql-bin.*****", "_gtid_": "4a21a3ce-ad7a-11f0-a8f3**********", "_host_": "rm-*********.mysql.rds.aliyuncs.com", "_id_": "176101777********", "_offset_": "265*****", "_table_": "t_parameter", "data": { "updateBefore": { "_old_id": "3", "_old_name": "82174b93-b810-4030-8652-e5c1667d3f72", "_old_value": "+@}8-/XC", "_old_status": "kBdO", "_old_description": "a?!L7{jaH+", "_old_create_time": "2023-12-28 19:03:43", "_old_create_user": "+Zs", "_old_modify_time": "2006-11-26 20:42:31", "_old_modify_user": "brTYGI?jLL" }, "updateAfter": { "id": "3", "name": "82174b93-b810-4030-8652-e5c1667d3f72-tagd", "value": "+@}8-/XC", "status": "kBdO", "description": "a?!L7{jaH+", "create_time": "2023-12-28 19:03:43", "create_user": "+Zs", "modify_time": "2006-11-26 20:42:31", "modify_user": "brTYGI?jLL" } } }部分展開:相容logtail mysql binlog採集格式
{ "ExecutionTime": 1761017850000, "_db_": "*****", "_event_": "row_update", "_event_time_": 1761017850, "_file_name_": "mysql-bin.*****", "_gtid_": "4a21a3ce-ad7a-11f0-a8f3**********", "_host_": "rm-*********.mysql.rds.aliyuncs.com", "_id_": "176101777********", "_offset_": "265*****", "_table_": "t_parameter", "old_data": { "_old_id": "1", "_old_name": "0e459c1a-c6ce-459b-b374-a161b095c8e9", "_old_value": "你好", "_old_status": "b", "_old_description": "cw", "_old_create_time": "2007-08-06 16:19:03", "_old_create_user": "!wW4", "_old_modify_time": "2017-04-21 18:21:58", "_old_modify_user": "s" }, "data": { "id": "1", "name": "0e459c1a-c6ce-459b-b374-a161b095c8e9-dsg", "value": "你好", "status": "b", "description": "cw", "create_time": "2007-08-06 16:19:03", "create_user": "!wW4", "modify_time": "2017-04-21 18:21:58", "modify_user": "s" } }全展開:所有欄位平鋪展示。
{ "ExecutionTime": 1761017850000, "_db_": "****", "_event_": "row_update", "_event_time_": 1761017850, "_file_name_": "mysql-bin.*****", "_gtid_": "4a21a3ce-ad7a-11f0-a8f3**********", "_host_": "rm-*********.mysql.rds.aliyuncs.com", "_id_": "176101777********", "_offset_": "265*****", "_table_": "t_parameter", "_old_create_time": "2024-09-27 15:27:10", "_old_create_user": "o", "_old_description": "LZ[1HsTE", "_old_id": "6", "_old_modify_time": "2008-03-15 08:05:53", "_old_modify_user": "/{=>7_d@0Q", "_old_name": "cf8a671c-4414-45f5-a22c-62c353a6f1ef", "_old_status": "K:HQOX-?gK", "_old_value": "23]sn<t", "create_time": "2024-09-27 15:27:10", "create_user": "o", "description": "LZ[1HsTE", "id": "6", "modify_time": "2008-03-15 08:05:53", "modify_user": "/{=>7_d@0Q", "name": "cf8a671c-4414-45f5-a22c-62c353a6f1efgsdsa", "status": "K:HQOX-?gK", "value": "23]sn<t" }