全部產品
Search
文件中心

E-MapReduce:使用老版DataWorks

更新時間:Jun 25, 2025

通過本教程,您可以瞭解如何使用DataWorks和EMR Serverless Spark產品組合進行巨量資料開發和分析,並通過使用者Portrait analysis案例體驗DataWorks在Data Integration、資料開發和營運中心模組方面的相關能力。

案例介紹

為了更好地制定企業經營策略,現需要從使用者網站行為中擷取網站使用者群體基本畫像資料,例如,使用者群體的地理屬性、社會屬性等,實現定時定點進行Portrait analysis,進而實現網站流量精細化營運操作。您可以通過DataWorks和EMR Serverless Spark產品組合完成資料同步、資料加工、資料管理和資料消費等操作。

說明

為了順利進行教程操作,請您務必閱讀實驗介紹,充分瞭解使用者Portrait analysis案例整體流程。

資料開發平台

本案例使用DataWorks的舊版資料開發(DataStudio)平台,請確保您的工作空間未參加新版資料開發公測。

  • 建立工作空間時,不選擇參加資料開發(Data Studio)公測

  • 2025年02月18日後,主帳號在如下地區首次開通DataWorks並建立工作空間時,預設啟用新版資料開發。如您已預設啟用了新版資料開發,具體教程請參見使用新版資料開發體驗

    華東1(杭州)、華東2(上海)、華北2(北京)、華南1(深圳)、中國香港、新加坡、印尼(雅加達)、德國(法蘭克福)

操作步驟

  1. 步驟一:準備環境

    建立教程所需的Spark專案、DataWorks工作空間,並完成相關的資源群組網路設定。

  2. 步驟二:同步資料

    在DataWorks配置資料同步鏈路,將教程提供的使用者資訊和網站日誌資料同步到Spark計算資源,並查詢同步後的資料。

  3. 步驟三:加工資料

    通過DataWorks的EMR Spark SQL節點,對同步到Spark的使用者資訊表和訪問日誌資料表中的資料進行加工,得到目標使用者畫像資料。

  4. 步驟四:監控資料品質

    為資料加工產生的表配置資料品質監控,提前識別髒資料並進行攔截,避免髒資料影響擴大。

  5. 步驟五:管理資料

    使用者Portrait analysis任務流程完成後,在Spark內將建立對應資料表。產生的資料表可在資料地圖模組進行查看,可通過資料地圖查看錶血緣。

  6. 步驟六:消費資料

    使用者Portrait analysis完成後,使用資料分析模組,將加工後的資料視覺效果展現,便於您快速提取關鍵資訊,洞察資料背後的業務趨勢。