本文為您介紹建立DataFlow Kafka叢集(選擇了Kafka服務)的詳細操作步驟和相關配置。
使用限制
EMR-5.18.0及之後版本、EMR-3.52.0及之後版本將不再支援Kafka服務。建議使用阿里雲的雲訊息佇列 Kafka 版或自行進行安裝。
注意事項
建立DataFlow Kafka叢集前,您需要根據業務的預估負載,選擇合適的ECS執行個體機型以及Broker執行個體個數。由於業務情境差異很大,所以無法給出通用的叢集規劃,您需要根據您的實際環境建立叢集。通常,建議您選擇機型時考慮以下配置:
-
Broker機型的CPU和記憶體配比為1:4。
-
選擇雲端硬碟作為資料存放區盤。
-
充分考慮雲端硬碟的IO吞吐率以及網卡頻寬之間的關係。
在部署參數上,考慮以下因素:
-
由於EMR Kafka版本仍依賴於Zookeeper,且Zookeeper的可用性直接關係到Kafka服務的高可用,因此,建議您建立叢集時,選擇高可用的部署方式。啟用高可用後,將建立3個節點的Zookeeper服務。
-
如果Master機器組只部署Zookeeper,則Master機器組只需要配置1塊資料盤即可。
更詳細的評估建議,請參見叢集資源規格評估建議。
操作步驟
-
進入建立叢集頁面。
-
可選:在頂部功能表列處,根據實際情況選擇地區和資源群組。
-
地區:建立的叢集將會在對應的地區內,一旦建立不能修改。
-
資源群組:預設顯示帳號全部資源。
-
-
單擊上方的创建集群,進行建立。
-
配置叢集資訊。
建立叢集時,您需要對叢集進行軟體配置、硬體設定和基礎配置。
重要叢集建立完成後,除了叢集名稱以外,其他配置均無法修改,所以在建立時請仔細確認各項配置。更多參數資訊,請參見建立叢集。
-
軟體配置。
配置項
樣本
描述
地域
華東1(杭州)
建立的叢集將會在對應的地區內,一旦建立不能修改。
业务场景
即時資料流情境
選擇即時資料流情境。
产品版本
EMR-3.43.1
選擇EMR版本後,您可以查看各服務的版本。
例如,EMR-3.43.1版本中的Kafka為2.12_2.4.1,其中2.12表示Scala的版本,2.4.1為開源Kafka的版本。
服务高可用
開啟
預設不開啟。
重要啟用高可用後,將在Master機器組上部署3個節點的Zookeeper服務。由於EMR Kafka版本的服務可用性仍依賴於Zookeeper,所以建議您建立叢集時,選擇高可用的部署方式。
可选服务
Kafka
選擇Kafka服務。
您也可以根據您的實際需求選擇其他的一些組件,被選中的組件會預設啟動相關的服務進程。
允许采集服务运行日志
開啟
支援一鍵開啟或關閉所有服務的日誌採集。預設開啟,將收集您的服務作業記錄,這些日誌僅供叢集診斷使用。
叢集建立後,您可以在基础信息頁面,修改服务运行日志收集状态。
重要關閉日誌採集後,EMR的健全狀態檢查和支援人員將受到限制,但其他功能仍可正常使用。如何關閉及影響詳情,請參見如何停止採集服務日誌?。
-
硬體設定。
配置項
樣本
描述
付费类型
隨用隨付
預設訂用帳戶。當前支援的付費類型如下:
-
按量付费:一種後付費模式,即先使用再付費。隨用隨付是根據實際使用的小時數來支付費用,每小時計費一次,適合短期的測試工作或是靈活的動態任務。
-
包年包月:一種預付費模式,即先付費再使用。
說明建議測試情境下使用按量付费,測試正常後再建立一個包年包月的生產叢集正式使用。
可用区
華東1(杭州) 可用性區域 I
可用性區域為在同一地區下的不同物理地區,可用性區域之間內網互連。通常使用預設的可用性區域即可。
专有网络
emr_test/vpc-bp1f4epmkvncimpgs****
預設選擇已有的專用網路。
如需建立新的專用網路,請在專用網路控制台新建立一個,詳情請參見建立和管理專用網路。
交换机
vsw_test/vsw-bp1e2f5fhaplp0g6p****
選擇在對應VPC下可用性區域的交換器,如果在這個可用性區域沒有可用的交換器,則需要在專用網路控制台新建立一個,詳情請參見建立和管理交換器。
默认安全组
sg-bp1ddw7sm2risw****/sg-bp1ddw7sm2risw****
預設選擇已有的安全性群組。安全性群組詳情請參見安全性群組概述。
您也可以單擊新建安全组,在ECS控制台建立一個安全性群組,詳情請參見建立安全性群組。
重要禁止使用ECS上建立的企業安全性群組。
节点组
根據實際情況配置
-
实例类型:您可以根據需要或者評估建議選擇執行個體規格。評估建議詳情,請參見叢集資源規格評估建議。
-
加入部署集:開啟高可用後,Master預設加入部署集,詳情請參見開啟部署集。
-
系统盘:根據需要選擇系統硬碟。
-
系統硬碟大小:根據需要調整磁碟容量,推薦至少120 GiB。取值範圍為80 ~ 500 GiB。
-
数据盘:根據需要選擇資料盤。
說明建議選擇雲端硬碟。
-
資料盤大小:根據需要調整磁碟容量,推薦至少80 GiB。取值範圍為40 ~ 32768 GiB。
-
实例数量:預設3台Master,3台Core。
-
附加安全组:您可以為該節點群組關聯最多2個附加安全性群組,附加安全性群組可以靈活定製不同的外部資源或應用程式之間的訪問。
-
挂载公网:叢集是否掛載Elastic IP Address地址,預設不開啟。
說明建立後如果您需要使用公網IP地址訪問,請在ECS上申請開通公網IP地址,詳情請參見中的申請EIP的內容。
-
-
基礎配置。
在基础信息地區,配置如下參數。
重要暫不支援進階配置地區的參數,因此請勿設定。
配置項
樣本
描述
集群名称
Emr-Kafka
叢集的名字,長度限制為1~64個字元,僅可使用中文、字母、數字、短劃線(-)和底線(_)。
身份凭证
自訂密碼
密钥对(預設):使用SSH金鑰組登入Linux執行個體。
關於金鑰組的使用詳情,請參見SSH金鑰組。
密码:設定Master節點的登入密碼,使用密碼登入Linux執行個體。
密碼規則:8~30個字元,且必須同時包含大寫字母、小寫字母、數字和特殊字元。
特殊字元包括:驚嘆號(!)、at(@)、井號(#)、貨幣符號($)、百分比符號(%)、乘方(^)、and(&)和星號(*)。
-
-
在确认订单頁面,選中E-MapReduce服务条款複選框。
-
單擊创建。
建立叢集後可以通過重新整理頁面來查看進度,當叢集状态顯示為运行中時,表示叢集建立成功。
後續步驟
叢集建立成功後,您可以根據實際的業務情境,修改叢集的預設參數,使叢集正式交付生產時符合相關的要求。例如:
-
是否啟用SSL來加密網路連結,詳情請參見使用SSL加密Kafka連結。
-
是否啟用SASL來進行登入認證,詳情請參見使用SASL登入認證Kafka服務。