產品 | 功能 | 描述 | 文檔連結 |
DLF | 商業化(開啟計費 + SLA) | DLF 於 2025 年 12 月下旬開啟商業化營運;商業化後啟動計費並提供 SLA。 | |
DLF | 公測說明(免費公測/開通方式) | DLF 免費公測的參與方式與開通入口說明。 | |
DLF | DLF 3.0:Omni Catalog(統一目錄) | DLF 3.0 強調統一目錄(Omni Catalog),面向多引擎接入與統一中繼資料管理。 | |
DLF | DLF 3.0:全模態資料湖倉管理(結構化/非結構化) | 從結構化拓展到文本、圖片、音視頻等非結構化資料的統一管理與治理。 | |
DLF | DLF 3.0:智能儲存與效能最佳化(面向 AI 負載) | 強調面向 AI 負載的資料群組織/儲存與效能最佳化能力。 | |
Realtime Compute for Apache Flink | Flink SQL 訪問 DLF(Paimon REST) | Flink SQL 以 Paimon REST Catalog 對接 DLF Catalog。 | |
Realtime Compute for Apache Flink | Flink DataStream 訪問 DLF(Paimon REST) | Flink DataStream 作業以 Paimon REST Catalog 訪問 DLF Catalog。 | |
Realtime Compute for Apache Flink | Flink SQL 訪問 DLF(Iceberg REST) | Flink SQL 以 Iceberg REST Catalog 對接 DLF Catalog(Iceberg 表)。 | |
EMR Serverless Spark | EMR Serverless Spark 使用 DLF Catalog | 在 EMR Serverless Spark 中配置/使用 DLF Catalog 作為中繼資料目錄。 | |
EMR Serverless Spark | OpenSearch 使用 DLF Catalog | 在 OpenSearch 側使用 DLF Catalog(用於資料湖構建/同步/索引)。 | |
DataWorks | OpenData:統一管理中繼資料/執行個體/成員等對象 | OpenData 作為統一入口管理工作區內的中繼資料、執行個體、成員等對象。 | |
DataWorks | OpenData:功能概覽 | OpenData 能力範圍與使用說明。 | |
DataWorks | OpenData:表結構/對象欄位說明 | OpenData 表結構與欄位說明(便於對接/二開)。 | |
DataWorks | OpenLake 快速體驗(DLF 底座) | OpenLake 方案快速體驗,強調 DLF 統一中繼資料與多引擎一體化。 | |
DataWorks | EMR Serverless Spark 環境準備:選擇 DLF 中繼資料服務 | 在 DataWorks 建立/配置 Serverless Spark 環境時可選擇 DLF 作為中繼資料服務(DLF Catalog)。 | |
DataWorks | 離線同步任務:欄位向量化處理(Embedding) | 在同步鏈路中對欄位做向量化處理,產出向量列用於下遊向量檢索/知識庫。 | |
DataWorks | 節點:PAI Flow 節點(調度/編排) | 在 DataWorks 中編排/調度 PAI Flow 工作流程。 | |
DataWorks | 資料來源:Milvus(向量庫讀寫/同步) | DataWorks 支援 Milvus 資料來源,用於向量資料讀寫/同步對接。 | |
EMR Serverless Spark | 資料目錄:同時添加 HMS、DLF-Legacy、DLF 3.0 Catalog | 平台層資料目錄增強,支援同時添加多種 Catalog,便於統一中繼資料與跨系統訪問。 | |
EMR Serverless Spark | 湖表讀寫:DLF 表讀寫最佳化 | 引擎層對 DLF 表讀寫進行最佳化,增強湖表訪問體驗。 | |
EMR Serverless Spark | 儲存訪問:pvfs 免密訪問 | 支援免密訪問 pvfs(便於在湖儲存側整合訪問)。 | |
EMR Serverless Spark | 湖格式:新增/增強 Lance 檔案格式支援 | 增加對 Lance 檔案格式的支援(用於 AI/向量等資料情境)。 | |
EMR Serverless Spark | Paimon:最佳化 + 血緣(lineage)增強 | Paimon 相關最佳化並增強血緣能力;可通過 DataWorks 查看 RDD 血緣等資訊。 | |
EMR Serverless Spark | Kyuubi Gateway:授權 token 關聯 DLF 3.0 Catalog | 網關層支援授權 token 與 DLF 2.5 Catalog 關聯,統一使用者鑒權。 | |
EMR Serverless Spark | DLF 2.5:完全支援 PaimonCatalog / IcebergCatalog | DLF 2.5 Catalog 相容 PaimonCatalog 與 IcebergCatalog。 | |
EMR Serverless Spark | DLF Lance 表:新增支援 | 在 DLF 2.5 Catalog 情境下新增 DLF Lance 表能力。 | |
EMR Serverless Spark | 工作區:支援同時添加多個 DLF Catalog(聯集查詢) | 工作區層面支援添加多個 DLF(原 DLF 2.5)Catalog 以便聯集查詢。 | |
EMR Serverless Spark | Livy Gateway:預設讀取 DLF Catalog | Livy Gateway 預設讀取 DLF Catalog 提供中繼資料,便於通過 Livy 提交作業直接存取湖表。 | |
EMR Serverless Spark | 管理資料目錄(HMS / DLF 1.0 / DLF 2.5) | 在控制台管理資料目錄:新增/查看/刪除 Catalog 等操作入口。 | |
EMR Serverless StarRocks | V1.19:建立執行個體時支援關聯 DLF 資料湖服務 | 建立執行個體時可關聯 DLF 資料湖服務,實現湖倉一體中繼資料/許可權聯動。 | |
Realtime Compute for Apache Flink | 管理 Paimon Catalog(可對接 DLF) | 建立/查看/刪除 Paimon Catalog;可直接存取 DLF 中的 Paimon 表。 | |
Hologres | 基於 DLF 2.0 訪問 Paimon Catalog | 通過 DLF REST metastore 訪問/管理 Paimon Catalog(External Database 等)。 | |
Hologres | DLF_FDW:讀寫 OSS(資料湖加速) | 通過 dlf_fdw 外表讀寫 OSS 資料湖。 | |
Hologres | Serverless Lakehouse:基於 Paimon 的方案 | Hologres + Paimon 構建 Serverless Lakehouse 的方案說明。 | |
OpenSearch | 向量檢索版:資料湖構建(DLF) | 從 DLF/Paimon 等資料湖表構建向量索引與檢索的指引。 | |
OpenSearch | 召回引擎版:資料湖構建(DLF) | 從 DLF/Paimon 等資料湖表構建索引與召回的指引。 | |
DataWorks | Data Studio(新版):Serverless StarRocks 節點 | 在 DataWorks 中提供 Serverless StarRocks 節點(含 SQL 節點),用於開發與調度 StarRocks 作業/SQL。 | |
EMR Serverless StarRocks | 建立執行個體時支援關聯 DLF 資料湖服務 | 建立執行個體時可關聯 DLF 資料湖服務,實現湖倉一體的中繼資料/許可權聯動。 | |
EMR Serverless StarRocks | StarRocks Manager 支援使用者關聯 RAM Role | StarRocks 使用者可關聯 RAM Role,用於適配 DLF 的 RAM Role 許可權控制與湖倉許可權聯動。 | |
EMR Serverless StarRocks | 核心 3.3.13-1.2.0(2025-10-29):DLF Iceberg Catalog 支援 | Lakehouse 新增:支援 DLF Iceberg Catalog,使 StarRocks 可直接對接 DLF 管理的 Iceberg 中繼資料目錄。 | |
EMR Serverless StarRocks | 核心 3.3.13-1.2.0(2025-10-29):Paimon Native Writer | Lakehouse 新增:支援 Paimon Native Writer,面向湖倉加工寫入效能增強(可與 DLF/Paimon 目錄結合使用)。 | |
EMR Serverless StarRocks | 核心 3.3.20-1.3.0(2025-12-10):Paimon DV V2 / Native Reader | Lakehouse 新增:支援 Paimon Deletion Vector V2;支援 Native Reader 讀寫 Paimon Format Table(增強湖表讀寫能力)。 | |
MaxCompute | DLF + OSS 外部 Schema:外部表格中繼資料託管到 DLF | 通過 DLF 管理 OSS 上 Schema/表等中繼資料,MaxCompute 通過 External Schema 查詢 OSS 外部表格(依賴 DLF 2.6+)。 |