EMR on ECS 在阿里雲 ECS 上託管運行 Apache Hadoop、Spark、Flink、Hive 等開源巨量資料元件,並整合 OSS-HDFS、JindoCache 等自研組件與 DataWorks、DLF 服務。支援訂用帳戶與隨用隨付兩種計費方式,協助您在數分鐘內建立可Auto Scaling的巨量資料叢集。
EMR 基於 Apache Hadoop、Spark、Flink、StarRocks 等社區開源組件構建,專註於提供穩定高效的叢集管控與營運平台能力。EMR on ECS 為半託管形態,叢集資源歸屬於您的阿里雲帳號,開源組件的日常營運(例如容量規劃、參數調優和故障處理)由您負責,更依賴您具備專業的巨量資料營運能力,以確保商務持續性。詳細的支援邊界,請參見支援人員的範圍和方式。
產品架構
EMR主要由四部分組成,分別為整合的阿里雲產品、開源組件、自研組件和叢集管理。其中EMR提供的組件類型及使用情境,請參見組件概覽和應用情境。
整合的阿里雲產品
-
EMR 可以部署在阿里雲 ECS 上。
-
資料可以儲存在阿里雲 OSS 上。
-
EMR 與 DataWorks 整合,您可以在 DataWorks 上使用 EMR 作為作業計算和資料存放區引擎。
-
EMR Workflow 提供全託管的工作流程和任務調度服務。
開源組件
整合 Apache 社區開源巨量資料元件,涵蓋Data Integration、資料存放區、資源管理、計算引擎、資料開發、資料服務等多個領域,方便您快速搭建高效可靠的資料處理和管理平台。
自研組件
為了讓開源巨量資料元件和服務更好地運行在阿里雲基礎設施上,EMR 提供以下自研組件:
-
OSS-HDFS:相容 Hadoop Distributed File System介面的Object Storage Service解決方案,支援巨量資料計算任務通過標準 HDFS 協議直接存取阿里雲 OSS 的資料。
-
JindoCache:分布式緩衝解決方案,通過在記憶體中快取資料塊,提高資料讀取效能,並減少對底層儲存系統的壓力。
-
DLF-Auth:由資料湖構建(DLF, Data Lake Formation)產品提供,可開啟 DLF 的資料許可權功能。
叢集管理
-
快速建立、擴容叢集能力,支援Auto Scaling部署。
-
叢集組態管理、服務管理,提供節點和服務的可視化營運能力。
-
多維度指標監控、叢集日誌與分析、監控與警示能力。
產品優勢
|
優勢 |
說明 |
|
穩定可靠的開源組件 |
EMR 每個版本隨社區更新,整合最新開源組件版本,規避組件間的版本相容性問題。阿里雲部署環境對開源組件做了針對性最佳化與增強。各版本支援的組件請參見 發行版本概覽。 |
|
易用性 |
分鐘級搭建巨量資料計算環境,無需手動部署或啟動服務,支援一鍵調整叢集規模。內建監控警示與智能診斷分析,可縮短排障時間。 |
|
節約成本 |
按需付費,僅為使用的計算資源付費。冷熱資料自動階層式存放區,降低單位儲存成本。營運工具與智能診斷進一步降低營運投入。 |
|
彈性 |
叢集資源可按叢集負載或時間周期自動調整,擴縮容分鐘級完成,支援多種彈性資源類型。 |
|
深度整合 |
支援基於阿里雲 ECS 或Container Service Kubernetes 版(ACK)部署叢集,可選用多種 ECS 執行個體規格,詳情請參見 ECS執行個體說明。整合 DataWorks 進行作業調度,在資料湖情境下使用 DLF 實現多引擎統一中繼資料管理。 |
|
AI 智能營運 |
內建 EMR AI 助手,串連叢集讀取運行狀態與監控資料,提供問答諮詢、效能診斷、健康巡檢與主動推送能力。您可以在控制台直接對話,也可以接入DingTalk、飛書群使用。詳情請參見 EMR AI助手功能介紹。 |
與自建 Hadoop 叢集的詳細對比,請參見 EMR與自建Hadoop叢集對比優勢。
EMR AI 助手
EMR AI 助手是 EMR 提供的智能營運服務。它基於大語言模型串連您的叢集,讀取叢集狀態與監控資料後再給出結論,因此診斷和建議基於叢集的實際情況,不是通用回答。
核心能力
-
效能診斷:叢集出現查詢逾時、延遲飆升等問題時,AI 助手可以定位原因並給出處理建議。例如提問「最近有哪些慢查詢」,AI 助手會列出 Top SQL 並逐條分析瓶頸。
-
健康巡檢:按您設定的周期檢查叢集配置與運行狀態,輸出巡檢報告。
-
主動推送:配置智能日報和警示後,AI 助手持續監控叢集,發現問題主動推送到DingTalk或飛書,無需人工值守。
-
問答諮詢:用自然語言提問即可,支援多輪對話,在一次會話中逐步深入排查問題。
使用方式
AI 助手支援三種接入方式:控制台內的交談視窗、DingTalk或飛書群、API 與 SDK。
-
快速上手,請參見 EMR AI助手快速入門。
-
瞭解完整功能模組與覆蓋情境,請參見 EMR AI助手功能介紹。
-
瞭解版本規格與計費方式,請參見 EMR AI助手包月計費說明。
產品計費
EMR 費用由 EMR 服務費用和 ECS 產品費用組成。如果您在使用 EMR 過程中還用到了其他雲產品(如 OSS、DLF、EMR Workflow 等),相關計費規則請參見各產品計費文檔:計費概述、計費說明。
EMR on ECS支援的計費方式如下:
-
訂用帳戶:按一定時間長度購買資源,先付費後使用。通過訂用帳戶,您可以提前預留資源,同時享受價格優惠,幫您節省支出。
-
隨用隨付:按需開通和釋放資源,先使用後付費。通過隨用隨付,您可以靈活使用,無需提前購買大量資源。
其中節點的公網流量費用與EMR叢集使用的計費方式無關,預設使用隨用隨付。
詳細的計費規則,請參見產品計費。
快速開始
-
通過EMR控制台快速建立叢集並執行作業,請參見快速建立和使用資料湖分析叢集。
-
在DataWorks快速使用EMR叢集,完成一站式資料湖開發和治理,請參見入門簡介。
FAQ
除 E-MapReduce 外,阿里雲是否有其他 Presto 服務?
除 E-MapReduce(EMR on ECS)外,阿里雲暫時沒有其他產品提供 Presto 服務。如果需要使用 Presto 引擎查詢和分析巨量資料,建議使用 EMR on ECS 叢集,並選擇包含 Presto 組件的發行版本。