建立Data Integration新版任務。
介面說明
需要購買 DataWorks 基礎版及以上版本才能使用。
該介面建立了Data Integration同步任務, 參數包括同步任務的源端配置 SourceDataSourceSettings 和目的端配置 DestinationDataSourceSettings,以及支援的同步類型 MigrationType,同時通過 TransformationRules 定義了對同步表做的如加列,表名替換等映射 rule,在 TableMappings 中定義了要同步的具體表以及表需要使用的映射 rule,在 JobSettings 中定義了任務的列映射和周期設定等。
調試
您可以在OpenAPI Explorer中直接運行該介面,免去您計算簽名的困擾。運行成功後,OpenAPI Explorer可以自動產生SDK程式碼範例。
調試
授權資訊
請求參數
|
名稱 |
類型 |
必填 |
描述 |
樣本值 |
| DestinationDataSourceType |
string |
否 |
目標端資料來源類型,枚舉值:Hologres,OSS-HDFS,OSS,MaxCompute,LogHub,StarRocks,DataHub,AnalyticDB_For_MySQL,Kafka,Hive。 |
Hologres |
| Description |
string |
否 |
任務的描述 |
DI Job Demo |
| SourceDataSourceType |
string |
否 |
源端資料來源類型,枚舉值: PolarDB,MySQL,Kafka,LogHub,Hologres,Oracle,OceanBase,MongoDB,RedShift,Hive,SQLServer,Doris,ClickHouse。 |
MySQL |
| ProjectId |
integer |
否 |
DataWorks 工作空間的 ID。您可以登入 DataWorks 控制台,進入工作空間管理頁面擷取 ID。 該參數用來確定本次 API 呼叫操作使用的 DataWorks 工作空間。 |
10000 |
| Name |
string |
否 |
任務名稱。 |
mysql_to_holo_sync_8772 |
| MigrationType |
string |
否 |
同步類型,可選的枚舉值有:
|
FullAndRealtimeIncremental |
| JobType |
string |
否 |
任務類型,可選
|
DatabaseRealtimeMigration |
| SourceDataSourceSettings |
array<object> |
否 |
源端資料來源設定列表 |
|
|
array<object> |
否 |
單個源端資料來源設定 |
||
| DataSourceName |
string |
否 |
資料來源名稱 |
mysql_datasource_1 |
| DataSourceProperties |
object |
否 |
資料來源屬性 |
|
| Encoding |
string |
否 |
資料庫編碼 |
UTF-8 |
| Timezone |
string |
否 |
時區 |
Asia/Shanghai |
| ConnectionProperties |
string |
否 |
與 DataSourceName 資料來源名稱二選一填寫;本參數為自訂資料來源串連配置資訊,包括執行個體 id、訪問身份、執行個體 region 等。 本參數僅支援資料來源配置為執行個體模式(ConnectionPropertiesMode),不同資料來源具有不同的屬性資訊規範,請參考資料來源串連資訊 ConnectionProperties |
{ "instanceId": "rm-2ze09gn3x6xxx", "password": "xxxx", "database": "agent", "username": "zmtest" "regionId": "cn-beijing" } |
| DestinationDataSourceSettings |
array<object> |
否 |
目標端資料來源設定列表 |
|
|
array<object> |
否 |
單個目標端資料來源設定 |
||
| DataSourceName |
string |
否 |
資料來源名稱 |
holo_datasource_1 |
| DataSourceProperties |
object |
否 |
資料來源屬性 |
|
| ConnectionProperties |
string |
否 |
與 DataSourceName 資料來源名稱二選一填寫;本參數為自訂資料來源串連配置資訊,包括執行個體 id、訪問身份、執行個體 region 等。 本參數僅支援資料來源配置為執行個體模式(ConnectionPropertiesMode),不同資料來源具有不同的屬性資訊規範,請參考資料來源串連資訊 ConnectionProperties |
{ "instanceId": "rm-2ze09gn3x6xxx", "password": "xxxx", "database": "agent", "username": "zmtest" "regionId": "cn-beijing" } |
| ResourceSettings |
object |
否 |
資源設定 |
|
| OfflineResourceSettings |
object |
否 |
離線同步資源 |
|
| RequestedCu |
number |
否 |
離線同步使用的Data Integration資源群組 cu |
2 |
| ResourceGroupIdentifier |
string |
否 |
離線同步使用的Data Integration資源群組名稱 |
S_res_group_111_222 |
| RealtimeResourceSettings |
object |
否 |
即時同步資源 |
|
| RequestedCu |
number |
否 |
即時同步使用的Data Integration資源群組 cu |
2 |
| ResourceGroupIdentifier |
string |
否 |
即時同步使用的Data Integration資源群組名稱 |
S_res_group_111_222 |
| ScheduleResourceSettings |
object |
否 |
調度資源 |
|
| RequestedCu |
number |
否 |
離線同步任務使用的調度資源群組 cu |
2 |
| ResourceGroupIdentifier |
string |
否 |
離線同步任務使用的調度資源群組名稱 |
S_res_group_222_333 |
| TransformationRules |
array<object> |
否 |
同步對象轉換規則定義列表 說明
[ { "RuleName":"my_database_rename_rule", "RuleActionType":"Rename", "RuleTargetType":"Schema", "RuleExpression":"{"expression":"${srcDatasoureName}_${srcDatabaseName}"}" } ] |
|
|
object |
否 |
單個同步對象轉換規則定義,每個元素為一條轉換規則定義 |
||
| RuleActionType |
string |
否 |
動作類型,可選的枚舉值:
|
Rename |
| RuleExpression |
string |
否 |
規則運算式,json string 格式。
|
{ "expression": "${srcDatasoureName}_${srcDatabaseName}" } |
| RuleName |
string |
否 |
規則名稱,當動作類型和動作作用的目標類型相同時,規則名稱需保證唯一性,長度不能超過 50 個字元 |
rename_rule_1 |
| RuleTargetType |
string |
否 |
動作作用的目標類型,可選的枚舉值:
|
Table |
| TableMappings |
array<object> |
否 |
同步對象轉換映射列表,列表中每個元素描述了一組源端同步對象選擇規則列表和在該組同步對象上應用的同步對象轉換規則列表 說明
[ { "SourceObjectSelectionRules":[ { "ObjectType":"Database", "Action":"Include", "ExpressionType":"Exact", "Expression":"biz_db" }, { "ObjectType":"Schema", "Action":"Include", "ExpressionType":"Exact", "Expression":"s1" }, { "ObjectType":"Table", "Action":"Include", "ExpressionType":"Exact", "Expression":"table1" } ], "TransformationRuleNames":[ { "RuleName":"my_database_rename_rule", "RuleActionType":"Rename", "RuleTargetType":"Schema" } ] } ] |
|
|
array<object> |
否 |
每條規則代表選擇需要同步的一個表 |
||
| SourceObjectSelectionRules |
array<object> |
否 |
每條規則可選擇待同步源端對象的集合,多條規則群組成選一個表 |
|
|
object |
否 |
每條規則可選擇待同步源端對象的不同物件類型,如選擇源端資料庫、源端資料表 |
||
| Action |
string |
否 |
選擇動作,取值範圍:Include/Exclude |
Include |
| Expression |
string |
否 |
運算式 |
mysql_table_1 |
| ExpressionType |
string |
否 |
運算式類型,取值範圍:Exact/Regex |
Exact |
| ObjectType |
string |
否 |
物件類型,可選的枚舉值:
|
Table |
| TransformationRules |
array<object> |
否 |
同步對象轉換規則定義列表,列表中每個元素為一條轉換規則定義 |
|
|
object |
否 |
源端對象上應用的轉換規則 |
||
| RuleName |
string |
否 |
規則名稱,在一種動作類型+動作作用的目標類型下規則名稱唯一,長度不能超過 50 個字元 |
rename_rule_1 |
| RuleActionType |
string |
否 |
動作類型,可選的枚舉值:
|
Rename |
| RuleTargetType |
string |
否 |
動作作用的目標類型,可選的枚舉值:
|
Table |
| JobSettings |
object |
否 |
同步任務維度設定,含 DDL 處理策略、源端和目標端列資料類型映射策略、任務運行時參數等 |
|
| ChannelSettings |
string |
否 |
通道相關任務設定,可以對一些特定通道進行特殊配置,目前支援 Holo2Holo(從 holo 同步到 holo),Holo2Kafka(從 Holo 同步到 Kafka)
|
{ "structInfo": "MANAGED", "storageType": "TEXTFILE", "writeMode": "APPEND", "partitionColumns": [ { "columnName": "pt", "columnType": "STRING", "comment": "" } ], "fieldDelimiter": "" } |
| ColumnDataTypeSettings |
array<object> |
否 |
列類型映射數組 說明
["ColumnDataTypeSettings":[ { "SourceDataType":"Bigint", "DestinationDataType":"Text" } ] |
|
|
object |
否 |
單條列類型映射 |
||
| DestinationDataType |
string |
否 |
目標端類型。如 bigint,boolean,string,text,datetime,timestamp,decimal,binary,不同資料來源類型會有類型差異 |
text |
| SourceDataType |
string |
否 |
源端類型。如 bigint,boolean,string,text,datetime,timestamp,decimal,binary,不同資料來源類型會有類型差異 |
bigint |
| CycleScheduleSettings |
object |
否 |
周期調度設定 |
|
| CycleMigrationType |
string |
否 |
需要周期調度的同步類型。取值範圍:
|
Full |
| ScheduleParameters |
string |
否 |
調度參數 |
bizdate=$bizdate |
| DdlHandlingSettings |
array<object> |
否 |
DDL 處理設定數組。 說明
["DDLHandlingSettings":[ { "Type":"Insert", "Action":"Normal" } ] |
|
|
object |
否 |
單條 DDL 處理設定 |
||
| Action |
string |
否 |
處理動作,可選的枚舉值:
|
Critical |
| Type |
string |
否 |
DDL 類型,可選的枚舉值:
|
AddColumn |
| RuntimeSettings |
array<object> |
否 |
運行時設定 |
|
|
object |
否 |
|||
| Name |
string |
否 |
設定名稱,可選的枚舉值:
|
runtime.offline.concurrent |
| Value |
string |
否 |
設定取值 |
1 |
JobName
deprecated
|
string |
否 |
該欄位已廢棄,請使用 Name 欄位。 |
mysql_to_holo_sync_8772 |
| Owner |
string |
否 |
任務責任人。 |
3726346 |
| FileSpec |
string |
否 |
指令碼模式代碼內容。 |
{ "resourceSettings": { "realtimeResourceSettings": { "requestedCu": 2, "resourceGroupIdentifier": "Serverless_res_group_123_456" }, "offlineResourceSettings": { "requestedCu": 2, "resourceGroupIdentifier": "Serverless_res_group_123_456" } }, "tableMappings": [ { "sourceObjectSelectionRules": [ { "expression": "autotest_hologres", "action": "Include", "expressionType": "Exact", "objectType": "Datasource" }, { "expression": "auto_holo_2661647", "action": "Include", "expressionType": "Exact", "objectType": "Table" }, { "expression": "public", "action": "Include", "expressionType": "Exact", "objectType": "Schema" } ], "transformationRules": [ { "ruleTargetType": "Table", "ruleActionType": "SourceSchema", "ruleName": "SourceSchema_Table_BStf8aXPSCJjOWGe" }, { "ruleTargetType": "Schema", "ruleActionType": "Rename", "ruleName": "Rename_Schema_3qWNOIsljtInvKJy" }, { "ruleTargetType": "Table", "ruleActionType": "Rename", "ruleName": "Rename_Table_o3PVQq1aIKDGoVVW" }, { "ruleTargetType": "Table", "ruleActionType": "DefineDstTableSettings", "ruleName": "DefineDstTableSettings_Table_BhJltOmOCIc81fzi" }, { "ruleTargetType": "Table", "ruleActionType": "ColumnMapping", "ruleName": "ColumnMapping_Table_nP4hJPX1wh2W3fpo" } ] } ], "sourceDataSourceSettings": [ { "dataSourceProperties": { "timeZone": "Asia/Shanghai" }, "dataSourceName": "autotest_hologres" } ], "jobSettings": { "runtimeSettings": [ ], "ddlHandlingSettings": [ ], "columnDataTypeSettings": [ ], "cycleScheduleSettings": { }, "channelSettings": { "destinationChannelSettings": { "conflictMode": "replace", "dynamicColumnAction": "replay", "writeMode": "replay" }, "sourceChannelSettings": { } } }, "destinationDataSourceType": "Hologres", "transformationRules": [ { "ruleTargetType": "Table", "ruleName": "SourceSchema_Table_BStf8aXPSCJjOWGe", "ruleActionType": "SourceSchema", "ruleExpression": { "columns": [ { "name": "id", "category": "normal", "type": "BIGINT" }, { "name": "decimal", "category": "normal", "type": "DECIMAL" } ] } }, { "ruleTargetType": "Schema", "ruleName": "Rename_Schema_3qWNOIsljtInvKJy", "ruleActionType": "Rename", "ruleExpression": { "expression": "public" } }, { "ruleTargetType": "Table", "ruleName": "Rename_Table_o3PVQq1aIKDGoVVW", "ruleActionType": "Rename", "ruleExpression": { "expression": "auto_holo_2661647_dst" } }, { "ruleTargetType": "Table", "ruleName": "DefineDstTableSettings_Table_BhJltOmOCIc81fzi", "ruleActionType": "DefineDstTableSettings", "ruleExpression": { "ddlString": "BEGIN; CREATE TABLE IF NOT EXISTS public.auto_holo_2661647_dst ( id BIGINT PRIMARY KEY, "decimal" DECIMAL(38,18) ); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'time_to_live_in_seconds', '3153600000'); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'orientation', 'column'); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'binlog.level', 'replica'); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'binlog.ttl', '2592000'); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'bitmap_columns', '"text","char","varchar"'); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'dictionary_encoding_columns', '"text":auto,"bytea":auto,"char":auto,"varchar":auto'); CALL SET_TABLE_PROPERTY('public.auto_holo_2661647_dst', 'distribution_key', '"id"'); COMMIT; ", "ddlType": "STRUCT" } }, { "ruleTargetType": "Table", "ruleName": "ColumnMapping_Table_nP4hJPX1wh2W3fpo", "ruleActionType": "ColumnMapping", "ruleExpression": { "columnMapping": [ { "sourceColName": "id", "dstColName": "id" }, { "sourceColName": "decimal", "dstColName": "decimal" } ] } } ], "migrationType": "FullAndRealtimeIncremental", "destinationDataSourceSettings": [ { "dataSourceProperties": { }, "dataSourceName": "autotest_hologres" } ], "sourceDataSourceType": "Hologres" } |
返回參數
|
名稱 |
類型 |
描述 |
樣本值 |
|
object |
Schema of Response |
||
| Id |
integer |
Data Integration任務 ID。 |
11792 |
| RequestId |
string |
請求的 ID。用於定位日誌,排查問題。 |
4F6AB6B3-41FB-5EBB-AFB2-0C98D49DA2BB |
DIJobId
deprecated
|
integer |
該欄位已廢棄,請使用 Id 欄位。 |
11792 |
樣本
正常返回樣本
JSON格式
{
"Id": 11792,
"RequestId": "4F6AB6B3-41FB-5EBB-AFB2-0C98D49DA2BB",
"DIJobId": 11792
}
錯誤碼
訪問錯誤中心查看更多錯誤碼。
變更歷史
更多資訊,參考變更詳情。