整合和計算任務執行個體是周期整合和計算任務按照定時調度時間運行產生的執行個體資料。後續您可以對整合和計算任務執行個體進行營運操作,支援的營運操作包括查看作業記錄、重跑、強制重跑當前執行個體、強制重跑下遊執行個體、查看節點代碼等操作。本文為您介紹如何查看並管理整合和計算任務執行個體。
前提條件
已購買智能營運增值服務並且當前租戶已開通智能營運模組後,方可查看甘特圖。
整合和計算任務執行個體頁面入口
在Dataphin首頁的頂部功能表列,選擇研發 > 任務營運。
在左側導覽列中選擇執行個體營運 > 周期執行個體。
在頂部功能表列選擇生產或開發環境。
在周期執行個體頁面,單擊整合和計算任務頁簽。
整合和計算任務執行個體列表支援的操作
周期整合和計算任務產生整合和計算任務執行個體後,將在周期執行個體 > 整合和計算任務列表為您展示。列表中展示當前執行個體對象、執行個體ID、運行狀態、調度周期、業務日期、定時已耗用時間、開始已耗用時間、結束已耗用時間、運行時間長度、重試次數/自動重試次數、優先順序、營運負責人、專案、相關基準執行個體、HTTP path、調度資源群組及支援的操作。
執行個體對象:運行一個周期任務得到一個周期執行個體對象。展示執行個體對象的名稱和ID,並標識任務的調度方式。可單擊列名旁的
表徵圖,根據對象名稱進行升序或降序排序。更多資訊,請參見周期執行個體提示標記說明。運行狀態:該執行個體目前的運行狀態包括:成功、失敗、運行中、等待調度時間、限流中、等待調度資源、未運行。各狀態標識及詳情,請參見周期執行個體運行狀態說明。
開始已耗用時間:執行個體開始運行時的時間,單擊列名旁的
表徵圖,按照開始已耗用時間進行升序或降序排序。說明邏輯表節點的開始已耗用時間,為執行個體對象最早開始啟動並執行內部物化節點對應的時間。
結束已耗用時間:執行個體結束運行時的時間,單擊列名旁的
表徵圖,按照結束已耗用時間進行升序或降序排序。說明邏輯表節點的結束已耗用時間,為執行個體對象最晚結束啟動並執行內部物化節點對應的時間。
重試次數/自動重試次數:執行個體運行重試次數/自動重試次數,其中
重試次數=運行次數-1。運行時間長度:執行個體開始運行到結束運行時的總時間長度,單擊列名旁的
表徵圖,按照運行時間長度進行升序或降序排序。說明邏輯表節點的運行時間長度,為執行個體對象最早開始啟動並執行內部物化節點和最晚結束啟動並執行內部物化節點之間的時間差。
優先順序:執行個體所屬的優先等級。
說明若已開通基準功能,基準任務取所有基準中最高的作為優先順序,覆蓋原有配置的任務優先順序。
專案:任務所屬的專案,展示格式為
專案英文名(專案中文名)。相關基準執行個體:作為末節點被保障的歸屬基準,以及作為上遊節點被納入保障範圍的相關基準。
說明若未開通基準功能,則不展示該欄位資訊。
HTTP path:根據選擇的生產環境或開發環境,展示DATABRICKS_SQL類型執行個體的生產環境HTTP path或開發環境HTTP path。
說明僅DATABRICKS_SQL類型的執行個體支援展示此項,其他類型任務展示為-。
調度資源群組:任務指定的執行個體運行時使用的調度資源群組名稱。
如果任務指定的自訂資源群組非可用狀態,將自動替換為使用專案預設資源群組;如果專案預設資源群組非可用狀態,將自動替換為使用租戶預設資源群組。即自訂資源群組>專案預設資源群組>租戶預設資源群組。
說明進行更換專案預設資源群組操作時,此處展示更新可能會存在延遲。但實際執行將使用修改後的資源群組。
租戶預設資源群組:不歸屬任何專案,一個租戶只有一個預設資源群組,任務沒有指定單獨的自訂資源群組或者專案沒有指定專案預設資源群組時,會使用租戶預設資源群組來調度,僅針對獨享資源任務(除SQL任務、Virtual任務等)。
整合和計算任務執行個體列表支援的操作如下。
操作 | 描述 |
DAG圖 | 單擊 |
查看作業記錄 | 單擊 |
重跑 | 單擊 如果業務情境需要執行重跑操作,您可以執行強制重跑。 |
查看甘特圖 | 單擊
甘特圖詳細說明請參見查看關鍵路徑甘特圖。 |
查看節點代碼 | 單擊 邏輯代碼:編寫的任務代碼。 物理代碼:編譯後產生的可在Flink引擎上啟動並執行代碼。 |
周期任務 | 單擊 |
編輯開發節點 | 單擊 說明 僅Dev-Prod模式專案空間的整合和計算任務執行個體支援編輯開發節點。 |
查看生產節點 | 單擊 說明 僅Dev-Prod模式專案空間的整合和計算任務執行個體支援查看開發節點。 |
編輯節點 | 單擊 說明 僅Basic模式專案空間的整合和計算任務執行個體支援編輯節點。 |
重跑下遊 | 單擊 如果需全鏈路重跑,建議您使用強制重跑下遊執行個體。具體操作,請參見強制重跑下遊執行個體。 重跑下遊操作多用於如下情境:
|
置成功繼續調度 | 單擊 |
終止 | 單擊 說明 僅成功、失敗、未運行狀態的執行個體不支援終止,其他狀態的執行個體均支援進行終止操作。 終止操作多用於如下情境:
|
強制重跑 | 單擊
重要 強制重跑不會校正上遊是否全部運行成功以及是否到達當前執行個體的定時已耗用時間,存在運行失敗或產生資料品質問題的風險,請確認對下遊資料無影響後再進行操作。 |
去除上遊戲依賴 | 單擊 重要 需至少保留一個上遊執行個體。 |
暫停 | 單擊 說明
|
恢複 | 單擊 |
修改HTTP path | 修改對應任務的生產環境HTTP path,可選擇為生產專案對應叢集所配置的全部HTTP path。 說明 僅在生產環境中選擇DATABRICKS_SQL任務時,支援此操作。 |
修改調度資源群組 | 單擊 說明
|
修改優先順序 | 單擊 |
整合和計算任務執行個體DAG節點支援的操作
DAG圖清晰地為您展示執行個體節點的上下遊依賴關係,同時系統支援對上下遊執行個體節點進行營運和管理。DAG圖預設展示Main節點(選中節點)及上下遊第一層節點。選中整合和計算任務執行個體節點,您可以對執行個體進行相關的營運操作。
Dataphin支援跨專案執行個體節點的營運管理。對跨專案的執行個體整合和計算任務節點進行營運操作時,需要具備執行個體所在專案的查看及操作許可權。
DAG圖支援的操作
操作
描述
展開父節點
展開DAG圖中Main節點不同層級的依賴節點。
展開子節點
查看任務
進入產生當前執行個體節點的任務節點DAG圖,查看任務節點詳情、上下遊節點資訊及對任務節點進行營運管理等,詳情請參見周期任務。
查看動作記錄
查看該執行個體進行相關操作的日誌資訊。
DAG節點支援的操作
滑鼠移至上方至DAG節點上,可以查看該節點的名稱、類型、調度周期、營運負責人及其描述資訊。整合和計算任務執行個體DAG節點支援的操作與整合和計算任務執行個體列表支援的操作相同。更多資訊,請參見整合和計算任務執行個體列表支援的操作。
整合和計算任務執行個體大量操作
周期整合和計算任務支援的大量操作說明如下:
操作 | 描述 |
重跑 |
|
終止 |
|
置成功繼續調度 | 選中多個執行個體後,可批量將運行失敗或未運行的整合和計算任務執行個體節點手動置運行成功,繼續參與調度。 |
暫停 |
|
恢複 | 大量復原暫停中的周期執行個體。 |
修改HTTP path | 可修改多個DATABRICKS_SQL執行個體的生產環境HTTP path。若選中的DATABRICKS_SQL執行個體歸屬於不同的Databricks叢集,則根據不同叢集分別指定HTTP path,可選擇為對應叢集所配置的全部HTTP path。 說明 僅在生產環境中選擇DATABRICKS_SQL執行個體時,支援此操作。 |
修改調度資源群組 | 可修改執行個體運行時使用的調度資源群組。 說明
|
修改優先順序 | 批量修改所選中執行個體的優先順序,可選擇最高、高、中、低或最低。 |
下載所有 | 下載所有周期執行個體(包括整合和計算任務執行個體以及建模任務執行個體)資料至本地,下載檔案為.xlsx格式,名稱格式為 表格中包含執行個體對象、執行個體ID、運行狀態、調度周期、業務日期、優先順序、營運負責人、專案(匯總邏輯表存在多重專案,各專案間使用逗號(,)分隔)、定時已耗用時間、開始已耗用時間、結束已耗用時間、運行時間長度、重試次數/自動重試次數、相關基準執行個體(執行個體所涉及到的基準名稱,多個名稱間使用逗號(,)分隔)和調度資源群組(建模任務執行個體下,此參數為空白值)資訊。 |
重跑下遊
在重跑下遊對話方塊中,配置參數。
說明下遊運行狀態為等待中或運行中的執行個體無法被重跑。如果需全鏈路重跑,建議您選擇強制重跑下遊執行個體。具體操作,請參見強制重跑下遊執行個體。
參數
描述
起點運行方式
定義起始節點的運行方式。支援選擇空跑運行和正常運行,詳細說明如下:
空跑運行:空跑的執行個體狀態顯示成功(正常調度),作業記錄為空白,無執行時間長度,不會實際跑資料。
正常運行:正常調度。
下遊重跑範圍
選擇重跑下遊節點的範圍,詳細說明如下:
所有失敗執行個體:不展示具體的下遊列表,系統自動篩選所有運行狀態為失敗的下遊執行個體進行重跑。
自訂配置:如果您需要自訂指定重跑的下遊,可以選擇自訂配置,支援按照節點名稱或ID進行搜尋,也可以通過運行狀態、營運負責人及所屬專案進行篩選。
單擊確定。
重跑下遊後,下遊執行個體節點資料更新。
強制重跑下遊執行個體
在強制重跑下遊對話方塊中,配置重跑參數。
參數
描述
起點運行方式
定義起始節點的運行方式。支援選擇空跑運行和正常運行,詳細說明如下:
空跑運行:空跑的執行個體狀態顯示成功(正常調度),作業記錄為空白,無執行時間長度,不會實際跑資料。
正常運行:正常調度。
下遊強制重跑範圍
選擇強制重跑下遊節點的範圍,詳細說明如下:
所有執行個體:一鍵選中起始節點的下遊所有的執行個體節點。
自訂配置:如果您需要自訂指定重跑的下遊,可以選擇自訂配置,支援按照節點名稱或ID進行搜尋,也可以通過運行狀態、營運負責人及所屬專案進行篩選。
單擊確定,即可完成設定。