資料推送節點可將Data Studio商務程序中其他節點產生的資料查詢結果,通過建立資料推送目標,將資料推送至DingTalk群、飛書群、企業微信群、Teams以及郵件,便於團隊成員及時接收和關注最新資料情況。
原理介紹
資料推送節點,可以通過節點上下文參數擷取上遊節點的輸出參數,將輸出參數以預留位置等形式在推送本文中進行編輯並推送至目標。資料推送節點能夠擷取輸出參數的上遊節點類型為:包含SQL查詢的節點、賦值節點。
SQL查詢節點完成查詢後,產生參數名為
outputs的節點輸出參數,該參數可以將SQL查詢節點中查詢結果或輸出結果傳遞至下遊節點。配置節點上下文參數詳情請參見配置節點上下文。在資料推送節點中編輯推送內容時,若期望通過Markdown組件來展示待推送的資料內容,此時可以在Markdown本文中使用
${參數名}的格式,添加和引用上遊節點的輸出參數。在資料推送節點中編輯推送內容時,若期望通過表格組件來展示待推送的資料內容,此時可以在表格組件的關聯參數中選擇上遊節點的SQL查詢欄位名,以擷取資料結果。
前提條件
請確保已開通DataWorks服務,詳情請參見準備工作:開通DataWorks服務。
請確保已建立DataWorks空間,詳情請參見建立工作空間。
請確保在DataWorks空間內,已建立商務程序。
請確保已擁有Serverless資源群組,僅支援Serverless資源群組執行該節點任務,如需購買使用Serverless資源群組,詳情請參見新增和使用Serverless資源群組。
請確保已為資源群組開啟公網訪問能力,詳情請參見:網路連通方案。
使用限制
資料推送功能推送至不同對象時的資料大小限制:
推送目標為DingTalk,推送資料大小不超過20KB。
推送目標為飛書,推送資料大小不超過20KB,圖片小於10MB。
推送目標為企業微信,每個機器人發送的訊息不能超過20條/分鐘。
推送目標為Teams,推送大小不大於28KB。
推送目標為郵件,每個資料推送任務僅支援添加一個郵件內文,若已添加郵件內文,則無法再次添加,更多限制可參考所使用郵件服務的SMTP限制。
僅以下地區的DataWorks工作空間可使用資料推送功能:華東1(杭州)、華東2(上海)、華北2(北京)、華南1(深圳)、西南1(成都)、中國香港、新加坡、馬來西亞(吉隆坡)、美國(矽谷)、美國(維吉尼亞)、德國(法蘭克福)。
1. 建立資料推送節點的上遊節點
資料推送節點,需要從上遊節點產生上下文參數中的輸出參數,再將其推送出去,所以在建立資料推送節點前,必須確保上遊已擁有查詢節點或賦值節點。
上遊需查詢MaxCompute資料進行推送時,需使用賦值節點對MaxCompute資料進行查詢,在調度配置中產生下文輸出參數,輸出至資料推送節點,詳情請參見:MaxCompute資料推送
上遊查詢節點為其他資料來源時,在上遊節點中產生參數名為
outputs的節點輸出參數,並將參數輸出至資料推送節點,詳情請參見:最佳實務:資料開發工作流程中配置資料推送節點。
建立SQL查詢節點
進入資料開發頁面。
登入DataWorks控制台,切換至目標地區後,單擊左側導覽列的,在下拉框中選擇對應工作空間後單擊進入資料開發。
建立賦值節點
進入資料開發頁面。
登入DataWorks控制台,切換至目標地區後,單擊左側導覽列的,在下拉框中選擇對應工作空間後單擊進入資料開發。
雙擊已建立的商務程序,進入商務程序的畫布頁面,單擊
建立賦值節點。雙擊賦值節點,進入賦值節點編輯頁面。
賦值節點可通過ODPS SQL、SHELL和Python三種賦值語言進行賦值計算,詳情請參見賦值節點。
配置完成賦值節點後,單擊
儲存賦值節點。
2. 建立資料推送節點
雙擊已建立的商務程序,進入商務程序的畫布頁面,單擊
建立資料推送節點。配置項
配置內容
節點類型
下拉框選中資料推送。
路徑
選擇與步驟一建立的節點放置在同一路徑下。
名稱
根據業務需求自訂資料推送節點名稱。
雙擊已建立的資料推送節點,進入資料推送節點編輯頁面。
單擊調度配置,在根據節點名稱單擊添加,將其步驟一建立的節點添加為資料推送節點的上遊節點。
在調度配置面板內,在選擇資料推送節點功能上線日期(2024年6月28日)後建立的Serverless資源群組,若資源群組為發布日期前建立,則需提工單升級調度資源群組。
在調度配置面板內,後,再單擊添加,將步驟一建立的查詢節點的輸出參數作為取值來源添加為資料推送節點的輸入參數,然後關閉調度配置面板。
在資料推送編輯頁面內配置資料推送的目標、標題以及本文內容。
下拉資料推送目標選擇所需的資料推送目標,若不存在,可單擊下拉框右下角的建立資料推送目標,建立推送目標。
參數
說明
類型
支援DingTalk、飛書、企業微信、Teams以及郵件。
對象名稱
可按業務需求進行自訂。
WebHook
DingTalk、飛書、企業微信機器人或Teams的Webhook,以及郵件的SMTP需要在相應的目標平台上擷取。
說明飛書機器人Webhook擷取方式可參見:飛書Webhook觸發器配置。
Teams Webhook擷取方式可參見:使用 Microsoft Teams 工作流程建立傳入 Webhook。
推送目標管理:
登入DataWorks控制台,切換至目標地區後,單擊左側導覽列的,在下拉框中選擇對應工作空間後單擊進入資料服務。
在服務開發頁面的左下角單擊
彈出設定頁面,切換至推送目標管理頁簽,單擊建立資料推送目標建立需要推送的目標,並對已建立的目標進行管理,詳情可參見建立Webhook資料推送目標。
標題:按業務需求進行自訂。
本文:可添加Markdown與表格,與資料推送服務功能一致,具體請參見配置推送內容。
說明當上遊節點是SQL查詢節點時。
資料推送本文中的Markdown可以直接使用SQL查詢的欄位名作為預留位置
${欄位名},擷取上遊輸出的參數。資料推送本文中的表格,可通過上遊SQL查詢的欄位名作為關聯參數擷取資料
當上遊節點是賦值節點時,資料推送本文中需要使用資料推送節點的本節點輸入參數的參數名作為預留位置
${本節點輸入參數名},擷取上遊輸出的參數。
單擊
儲存資料推送節點。
3. 調試運行任務與發布
在完成資料推送流程配置後,雙擊商務程序,進入商務程序畫布頁面,測試商務程序是否能正常運行,測試成功後,即可提交發布任務。
在資料推送流程畫布編輯頁面,單擊
,運行商務程序。待資料推送流程中的所有節點後出現
,單擊
提交運行成功的資料推送流程。選擇提交對話方塊中需要提交的節點,勾選忽略輸入輸出不一致的警示。
單擊提交。
提交成功後,即可在發佈頁面發布流程節點,詳情可參見發布任務。
最佳實務
資料推送節點在商務程序中,可以進行簡單推送、合并推送、指令碼推送、條件推送和MaxCompute等多種用法,詳情請參見最佳實務:資料開發工作流程中配置資料推送節點。
後續步驟
資料推送任務發布成功,可在營運頁面對任務進行營運操作,詳情可參見周期任務基本營運操作。