为了确保在实时计算开发控制台中更加高效且灵活地管理和操作Paimon表(合并小文件、数据排序等特定任务等),您需要提前配置相关工具包。本文为您介绍如何在实时计算开发控制台中完成这一配置过程,助力您更轻松管理Paimon表数据。
使用限制
仅实时计算引擎VVR 8.0.5及以上版本支持Paimon表。
操作步骤
下载Paimon数据管理所需的JAR包,请根据作业的引擎版本选择。
VVR 11.x版本(推荐):使用社区Apache Paimon提供的JAR包,可获取最新的湖表管理能力。需下载
paimon-flink-action与paimon-flink-1.20两个JAR包,VVR 11.x版本兼容社区Flink 1.20版本。正式发布的稳定版本,请参见Maven仓库:paimon-flink-action、paimon-flink-1.20。
若所需的湖表管理能力尚未正式发布,可使用nightly build的最新snapshot版本,请参见Apache Paimon下载页面。
VVR 8.x版本:使用实时计算Flink版提供的固定JAR包。
paimon-flink-action:paimon-flink-action-1-ali-16.0.jar
paimon-ali-vvr:paimon-ali-vvr-8.0-vvp-1-ali-16.0-1.jar
在实时计算开发控制台,在文件管理页面单击上传资源,上传步骤1中下载的两个JAR包。
在页面单击,填写相关配置项。
配置项说明如下:
配置项
说明
本文示例
部署模式
流模式或批模式,您需要根据具体功能进行选择。
批模式
部署名称
填写对应的JAR作业名称。
test
引擎版本
选择实时计算引擎VVR 8.0.5及以上版本。
vvr-8.0.5-flink-1.17
JAR URI
上传paimon-flink-action JAR包。
选择步骤2上传的paimon-flink-action。
Entry Point Class
程序的入口类。
不填写。
Entry Point Main Arguments
传入参数,在主方法里面调用该参数。
部分Paimon action默认采用轻量化执行模式,不会启动Flink作业。实时计算Flink版要求JAR作业中的程序必须启动Flink作业,因此需在参数中增加
--force_start_flink_job true。action所需的
catalog_conf参数填写方式,请参见配置catalog_conf参数。根据具体功能填写,详见相关功能文档。例如实现数据排序功能,详情请参见消费作业优化。
附加依赖文件
指定要附加的依赖文件的路径或文件名。
选择步骤2上传的paimon-ali-vvr(VVR 8.x版本)或paimon-flink-1.20(VVR 11.x版本)。
单击部署,部署作业。
在页面,单击启动,启动步骤详情请参见作业启动。
配置catalog_conf参数
Paimon action通过catalog_conf参数访问目标Catalog,需根据Catalog类型填写对应参数。
DLF Catalog
需填写包括AccessKey在内的DLF Catalog参数,配置方式请参见Flink DataStream访问DLF。参数说明如下。
参数 | 说明 | 示例 |
| Catalog类型,从自定义JAR自动解析,请勿更改。 | paimon |
| metastore类型,固定为rest。 | rest |
| DLF REST Catalog Server的VPC接入点,格式为 | http://cn-hangzhou-vpc.dlf.aliyuncs.com |
| DLF Catalog名称。 | dlf_test |
| Token提供方,固定为dlf。 | dlf |
| 阿里云账号或RAM用户的AccessKey ID。 | 无 |
| 阿里云账号或RAM用户的AccessKey Secret。 | 无 |
Filesystem metastore
需填写warehouse与OSS AccessKey参数,配置方式请参见管理Paimon Catalog。参数说明如下。
配置项 | 说明 | 是否必填 | 备注 |
| OSS服务中所指定的数仓目录。 | 是 | 格式为 |
| OSS服务的连接地址。 | 是 | 如果Flink工作空间与OSS Bucket位于同一地域,则使用VPC网络Endpoint,否则使用公网Endpoint。当warehouse指定的OSS Bucket与Flink工作空间不在同一地域,或使用其他账号下的OSS Bucket时需要填写。获取方法请参见地域和Endpoint。 |
| 拥有读写OSS权限的阿里云账号或RAM用户的AccessKey ID。 | 是 | 获取方法请参见创建AccessKey。 |
| 拥有读写OSS权限的阿里云账号或RAM用户的AccessKey Secret。 | 是 |
fs.oss.endpoint、fs.oss.accessKeyId、fs.oss.accessKeySecret需配置在Flink作业的运行参数中,配置在catalog_conf中可能不会生效。
相关文档
作业启动后,如果您需要配置Flink作业运行参数,详情请参见配置作业部署信息。
作业运行参数中部分参数也支持动态更新,减少作业启停带来的业务断流时间,详情请参见动态扩缩容与参数动态更新。
不同场景下Paimon主键表和Append Scalable表的常用优化,详情请请见Paimon性能优化。