全部產品
Search
文件中心

Realtime Compute for Apache Flink:什麼是阿里雲流儲存 Apache Fluss 版

更新時間:Aug 30, 2026

阿里雲流儲存 Apache Fluss 版是基於 Apache Fluss 打造的高效能列式流儲存系統,具備毫秒級讀寫響應、即時資料更新及部分欄位更新能力。同時Fluss 提供 CDC(變更資料擷取)日誌訂閱功能,保障全量與增量資料的一致性讀取,滿足即時資料消費情境需求。

前置概念

閱讀本文前,可以按需瞭解基礎概念:

什麼是Apache Fluss?

什麼是Apache Paimon?

產品概述

阿里雲流儲存 Apache Fluss 版的“湖流一體”架構,實現與Apache Paimon等資料湖格式的無縫對接,在確保資料高時效性的基礎上,顯著降低即時數倉的構建與營運成本。通過統一的資料流與湖倉協同機制,Fluss助力企業打破資料孤島,加速湖上資料價值的深度挖掘與高效共用。

能力特點

說明

毫秒級流讀流寫

Fluss 支援低延遲的流式讀寫能力,結合 Apache Flink 可構建高吞吐、低延遲的即時數倉,適用於各類即時資料處理情境。

流式查詢下推

Fluss 底層採用Apache Arrow列存格式,支援列裁剪、分區下推、條件下推、彙總下推等查詢加速能力,顯著降低 I/O 開銷,查詢效能提升可達 10 倍。

CDC日誌訂閱與全增量一致性

Fluss 內建變更資料擷取(CDC)機制,支援 Binlog 即時訂閱,保障全量與增量資料的一致性讀取。在即時數倉中可實現去重更新、分層治理與端到端低延遲的資料加工。

部分列更新

Fluss 支援主鍵粒度的部分列更新,實現多流資料的即時拼接,避免傳統雙流 Join 的大狀態問題。即使在 Partial Update 情境下,仍可產生完整 Binlog,確保全鏈路即時化。

Delta Join

基於 Fluss 的流讀能力和索引點查能力,構建的 Delta Join 方案可替代傳統雙流 Join,顯著降低記憶體和 CPU 使用率。實測生產環境下,Flink 記憶體與 CPU 限定下降超 86%,Checkpoint 耗時從 90s 縮短至 1s。

二級索引與 KV 點查

Fluss 支援二級索引構建,提供高效的 Key-Value 點查能力,使用者可直接對 DWD/DWS 層資料進行排查與驗證,無需匯出至其他系統。

冷熱資料分層與湖流一體化

Fluss 支援冷熱資料自動階層式存放區,兼顧效能與成本。同時無縫對接 Apache Paimon 等湖格式,實現湖流資料統一管理與共用,提升即時數倉性價比。

產品架構

image

1. 湖流一體架構

特點:
  • 以資料湖為底層儲存,實現歷史資料的低成本持久化,同時依託湖生態提供高效的批式查詢與分析能力。

  • 內建流式入湖能力,支援流資料即時寫入並立即可見,無需依賴外部資料整合工具。

  • 支援資料在流儲存與資料湖之間的智能分層管理,查詢與消費時自動合并多層資料,提供統一訪問視圖。

  • 採用開源開放架構,相容主流湖格式(如 DLF、Paimon、Iceberg、Lance)和查詢引擎(如 Flink、Spark、StarRocks),支援靈活擴充。

優勢:
  • 流批一體架構 :統一支援流處理與批處理,降低系統架構複雜度與營運成本。

  • 資料統一儲存 :流與湖共用同一份資料副本,避免重複儲存,顯著降低總體儲存成本。

  • 統一資料治理 :提供統一的許可權控制與中繼資料管理,簡化資料治理流程,保障資料安全與一致性。

2. 分布式叢集架構

結構:
  • 每個 Fluss Cluster 包含一個 Coordinator 和多個 TabletServer 節點。

  • Coordinator 負責中繼資料管理、任務調度和全域協調。

  • TabletServer 節點負責實際的資料存放區、計算和查詢執行。

優勢:
  • 高可用性:通過多副本備份機制和分布式節點設計,確保資料的高可靠性和高可用性。

  • 可擴充性:支援按需增加 TabletServer 或叢集,滿足業務增長需求。

  • 冷儲存層用於長期歸檔,減少熱資料儲存成本。

3. 強大的多能力支撐

核心能力
  • 湖流一體

    實現資料湖與流處理的深度融合,支援即時資料處理和歷史資料分析。

  • 流式查詢下推

    將列裁剪、分區裁剪等查詢邏輯下推到 TabletServer 層執行,減少資料轉送,提升流式查詢效能。

  • Delta Join

    支援流式資料與待用資料的高效關聯分析,適用於即時推薦、使用者畫像等情境。

  • 即時更新與點查

    支援百萬級QPS即時更新、部分列更新、維表點查,支援即時產生 CDC 變更日誌,無縫整合 Flink 構建全鏈路即時數倉。

基礎能力
  • 監控警示

    即時監控系統運行狀態,提供警示機制,確保問題及時發現和處理。

  • 庫表管理

    支援對資料庫和表的建立、修改、刪除等操作,方便資料管理和許可權控制。

  • 同城容災

    提供同城備份和容災能力,確保資料安全性和商務持續性。

  • 自動升級

    支援線上升級,減少停機時間,保障服務的持續可用性。

產品優勢

流批一體秒級湖倉方案

image

Fluss 的設計理念旨在協助企業解決即時資料處理中的痛點,提升資料價值挖掘效率,具體體現在以下方面:

  • 即時性與低延遲

    Fluss 支援毫秒級讀寫,結合 Flink 等流式計算引擎,構建高吞吐、低延遲的即時數倉,滿足金融交易、電商推薦等對時效性要求極高的情境。

  • 成本最佳化

    冷熱階層式存放區策略顯著降低儲存成本,同時湖流一體架構減少了資料冗餘與重複計算,整體 TCO 最優。

  • 資料分析效率提升

    查詢下推、Delta Join 等技術大幅提高查詢效能,縮短資料加工鏈路,加速業務洞察。

  • 資料治理與安全性

    統一的資料管理平台,支援多租戶隔離、許可權管控與Action Trail,確保資料安全合規。

  • 靈活擴充性

    支援按需Auto Scaling,輕鬆應對業務高峰期或突發流量,無需擔心資源瓶頸。