為了確保在Realtime Compute開發控制台中更加高效且靈活地管理和操作Paimon表(合并小檔案、資料排序等特定任務等),您需要提前配置相關工具包。本文為您介紹如何在Realtime Compute開發控制台中完成這一配置過程,助力您更輕鬆管理Paimon表資料。
使用限制
僅Realtime Compute引擎VVR 8.0.5及以上版本支援Paimon表。
操作步驟
下載Paimon資料管理所需的JAR包,請根據作業的引擎版本選擇。
VVR 11.x版本(推薦):使用社區Apache Paimon提供的JAR包,可擷取最新的湖表管理能力。需下載
paimon-flink-action與paimon-flink-1.20兩個JAR包,VVR 11.x版本相容社區Flink 1.20版本。正式發布的穩定版本,請參見Maven倉庫:paimon-flink-action、paimon-flink-1.20。
若所需的湖表管理能力尚未正式發布,可使用nightly build的最新snapshot版本,請參見Apache Paimon下載頁面。
VVR 8.x版本:使用Realtime ComputeFlink版提供的固定JAR包。
paimon-flink-action:paimon-flink-action-1-ali-16.0.jar
paimon-ali-vvr:paimon-ali-vvr-8.0-vvp-1-ali-16.0-1.jar
在Realtime Compute開發控制台,在檔案管理頁面單擊上傳資源,上傳步驟1中下載的兩個JAR包。
在頁面單擊,填寫相關配置項。
配置項說明如下:
配置項
說明
本文樣本
部署模式
流模式或批模式,您需要根據具體功能進行選擇。
批模式
部署名稱
填寫對應的JAR作業名稱。
test
引擎版本
選擇Realtime Compute引擎VVR 8.0.5及以上版本。
vvr-8.0.5-flink-1.17
JAR URI
上傳paimon-flink-action JAR包。
選擇步驟2上傳的paimon-flink-action。
Entry Point Class
程式的入口類。
不填寫。
Entry Point Main Arguments
傳入參數,在主方法裡面調用該參數。
部分Paimon action預設採用輕量化執行模式,不會啟動Flink作業。Realtime ComputeFlink版要求JAR作業中的程式必須啟動Flink作業,因此需在參數中增加
--force_start_flink_job true。action所需的
catalog_conf參數填寫方式,請參見配置catalog_conf參數。根據具體功能填寫,詳見相關功能文檔。例如實現資料排序功能,詳情請參見消費作業最佳化。
附加依賴檔案
指定要附加的依賴檔案的路徑或檔案名稱。
選擇步驟2上傳的paimon-ali-vvr(VVR 8.x版本)或paimon-flink-1.20(VVR 11.x版本)。
單擊部署,部署作業。
在頁面,單擊啟動,啟動步驟詳情請參見作業啟動。
配置catalog_conf參數
Paimon action通過catalog_conf參數訪問目標Catalog,需根據Catalog類型填寫對應參數。
DLF Catalog
需填寫包括AccessKey在內的DLF Catalog參數,配置方式請參見Flink DataStream訪問DLF。參數說明如下。
參數 | 說明 | 樣本 |
| Catalog類型,從自訂JAR自動解析,請勿更改。 | paimon |
| metastore類型,固定為rest。 | rest |
| DLF REST Catalog Server的VPC存取點,格式為 | http://cn-hangzhou-vpc.dlf.aliyuncs.com |
| DLF Catalog名稱。 | dlf_test |
| Token提供方,固定為dlf。 | dlf |
| 阿里雲帳號或RAM使用者的AccessKey ID。 | 無 |
| 阿里雲帳號或RAM使用者的AccessKey Secret。 | 無 |
Filesystem metastore
需填寫warehouse與OSS AccessKey參數,配置方式請參見管理Paimon Catalog。參數說明如下。
配置項 | 說明 | 是否必填 | 備忘 |
| OSS服務中所指定的數倉目錄。 | 是 | 格式為 |
| OSS服務的串連地址。 | 是 | 如果Flink工作空間與OSS Bucket位於同一地區,則使用VPC網路Endpoint,否則使用公網Endpoint。當warehouse指定的OSS Bucket與Flink工作空間不在同一地區,或使用其他帳號下的OSS Bucket時需要填寫。擷取方法請參見地區和Endpoint。 |
| 擁有讀寫OSS許可權的阿里雲帳號或RAM使用者的AccessKey ID。 | 是 | 擷取方法請參見建立AccessKey。 |
| 擁有讀寫OSS許可權的阿里雲帳號或RAM使用者的AccessKey Secret。 | 是 |
fs.oss.endpoint、fs.oss.accessKeyId、fs.oss.accessKeySecret需配置在Flink作業的運行參數中,配置在catalog_conf中可能不會生效。
相關文檔
作業啟動後,如果您需要配置Flink作業運行參數,詳情請參見配置作業部署資訊。
作業運行參數中部分參數也支援動態更新,減少作業啟停帶來的業務斷流時間,詳情請參見動態擴縮容與參數動態更新。
不同情境下Paimon主鍵表和Append Scalable表的常用最佳化,詳情請請見Paimon效能最佳化。