整合和計算任務頁麵包含計算任務、同步任務和整合任務,每個任務對應一個調度節點,本文以節點視角為您介紹如何查看並管理整合和計算任務。
整合和計算任務頁面入口
在Dataphin首頁的頂部功能表列中,選擇研發 > 任務營運。
在左側導覽列中選擇任務營運 > 周期任務。
在頂部功能表列中選擇生產或開發環境。
在周期任務頁面中,單擊整合和計算任務頁簽。
整合和計算工作清單支援的操作
整合和計算任務提交到營運中心調度後,將在周期任務 > 整合和計算任務列表為您展示。列表中展示當前任務對象、調度周期、優先順序、營運負責人、相關基準、專案、HTTP path、調度資源群組、最新動向時間、標籤及支援的操作。
任務對象:提交到營運中心的指令碼周期任務。展示指令碼名稱和指令碼ID,並標識任務的調度方式。更多資訊,請參見調度方式說明。
調度周期:調度時區下任務周期調度的時間。
優先順序:任務的優先順序。若已開通基準功能,基準任務取所有基準中最高的作為優先順序,覆蓋原有配置的任務優先順序。
相關基準:展示作為末節點被保障的歸屬基準,以及作為上遊節點被納入保障範圍的相關基準。
說明若未開通基準功能,則不展示該欄位資訊。
專案:任務所屬的專案,展示格式為
專案英文名(專案中文名)。HTTP path:根據選擇的生產環境或開發環境,展示Databricks SQL類型任務的生產環境HTTP path或開發環境HTTP path。
說明僅Databricks SQL類型的任務支援展示此項,其他類型任務展示為-。
調度資源群組:任務指定的執行個體運行時使用的調度資源群組名稱。
如果任務指定的自訂資源群組非可用狀態,將自動替換為使用專案預設資源群組;如果專案預設資源群組非可用狀態,將自動替換為使用租戶預設資源群組。即自訂資源群組>專案預設資源群組>租戶預設資源群組。
說明進行更換專案預設資源群組操作時,此處展示更新可能會存在延遲,但實際執行將使用修改後的資源群組。
租戶預設資源群組:不歸屬任何專案,一個租戶只有一個預設資源群組,任務沒有指定單獨的自訂資源群組或者專案沒有指定專案預設資源群組時,會使用租戶預設資源群組來調度,僅針對獨享資源任務(除SQL任務、Virtual任務等)。
整合和計算工作清單支援的操作如下。
操作 | 描述 |
DAG圖 | 單擊 |
查看周期執行個體 | 查看該任務產生的周期執行個體。同時,您也可以對周期執行個體進行營運和管理。 |
編輯開發節點 | 進入Dev專案下該任務的編輯頁面,編輯該任務。 說明 僅適用於Dev-Prod開發模式。 |
編輯節點 | 進入該任務的編輯頁面,編輯該任務。 說明 僅適用於Basic模式。 |
查看生產節點 | 進入Prod專案中,查看該任務配置。 說明 Basic模式和Dev-Prod開發模式下未發布到生產環境中的任務不支援該功能。 |
查看節點代碼 | 查看該整合和計算任務節點編寫的代碼。 |
查看補資料執行個體 | 查看並營運補資料操作產生的補資料執行個體。 |
補資料 | 周期任務補資料功能用於對周期任務在指定的歷史業務日期內進行資料回刷。周期任務開發完成並提交發布後,任務會按照調度配置定時運行,如果您希望在指定時間段運行周期任務或回刷歷史一段時間區間的資料,可以使用補資料功能。對整合和計算任務節點進行補資料操作,詳情請參見附錄:周期任務補資料。 |
下載上下遊節點 | 下載當前節點的上下遊節點列表,列表包含所有列(包含未展示的清單項目)。 單擊下載上下遊節點後,您可在下載上下遊節點對話方塊中,分別選擇上下遊節點層級,可選擇第1層~第10層以及不限層級,預設均為第1層。完成層級選擇後,單擊確定開始下載Excel檔案,檔案名稱為 |
修改營運負責人 | 修改任務的營運責任人。 說明 僅適用於Basic模式和Dev-Prod模式的Prod環境,Dev開發環境不支援修改。 |
修改優先順序 | 修改任務的優先順序。在相同時間下,所有符合調度條件的任務,高優先順序的優先運行。 說明
|
暫停 | 即可將當前任務節點置為暫停調度狀態。暫停適用於有些任務及其下遊任務暫時不需要運行,後面還會繼續使用的情境,例如臨時調整一些計算口徑,防止影響下遊資料。 |
恢複 | 即可將已暫停節點置為正常調度狀態。 |
配置監控警示 | 支援配置任務啟動並執行監控規則,詳情請參見離線任務監控概述。 說明 僅適用於Prod和Basic專案。 |
修改HTTP path | 修改對應任務的生產環境HTTP path,可選擇為生產專案對應叢集所配置的全部HTTP path。 說明 僅生產環境中支援此操作。 |
修改調度資源群組 | 可修改任務產生的執行個體運行時使用的調度資源群組。 說明
|
整合和計算任務DAG節點支援的操作
DAG圖清晰地為您展示任務節點的上下遊依賴關係,同時系統支援對上下遊節點進行營運和管理。DAG圖預設展示Main節點(選中節點)及上下遊第一層節點。選中整合和計算任務節點,您可以對任務進行相關的營運操作。
Dataphin支援跨專案節點的營運管理。對跨專案的指令碼節點進行營運操作時,需要具備任務所在專案的查看及操作許可權。

DAG圖支援的操作
展開父節點、展開子節點:展開DAG圖中Main節點不同層級的依賴節點。
DAG節點支援的操作
滑鼠移至上方至DAG節點上,可以查看該節點的名稱、類型、調度周期、營運負責人及其描述資訊。整合和計算任務DAG節點支援的操作與整合和計算工作清單支援的操作相同。更多資訊,請參見整合和計算工作清單支援的操作。
整合和計算任務支援的大量操作
周期整合和計算任務支援以下大量操作功能:
操作 | 描述 |
暫停 | 暫停全部已選任務。暫停後,暫停任務仍正常產生執行個體,但當前任務產生的執行個體及下遊依賴執行個體均不調度。 |
恢複 | 恢複已選任務調度。 |
修改營運負責人 | 可批量修改周期整合和計算任務的營運負責人。 說明 僅適用於Basic模式和Dev-Prod模式的Prod環境,Dev開發環境不支援修改。 |
修改優先順序 | 可批量修改周期整合和計算任務的優先順序。 說明
|
修改HTTP path | 可修改多個Databricks SQL任務的生產環境HTTP path。若選中的Databricks SQL任務歸屬於不同的Databricks叢集,則根據不同叢集分別指定HTTP path,可選擇為對應叢集所配置的全部HTTP path。 說明 僅在生產環境中選擇Databricks SQL任務時,支援此操作。 |
修改調度資源群組 | 可批量修改多個任務產生的執行個體運行時使用的調度資源群組。 說明
|
補資料 | 預設為所選的多個任務,以海量模式-指定節點ID的方式補當前及上下遊任務資料。除補資料範圍外,您可自訂補資料的基本資料和其他配置,參數詳情請參見對當前及上下遊任務補資料。 |