基於Kubernetes快速構建AI/ML平台
阿里雲ACK雲原生AI套件提供了一系列組件化的功能和服務，協助您構建自己的AI平台，加速AI工作負載，以及簡化MLOps。
資源彈性
有效提升GPU、CPU利用率、最佳化異構資源彈性
高效調度
高效調度AI和巨量資料任務，端到端支援AI生產流程
資料加速
改善資料訪問效能，打通異構資料來源鏈路
可觀測性
提供豐富的任務、使用者和資源可觀測性
靈活擴充
組件化、可擴充的架構，便於您定製雲原生AI平台
標準K8s
基於標準K8s，相容公用雲、專有雲、混合雲以及邊緣環境
產品特性
異構資源效率最佳化
可共用調度GPU和隔離顯存，支援豐富的GPU裝置分配策略以及GPU資源全方位監控。
資料訪問效能提升
計算與儲存分離。Fluid為AI與巨量資料雲原生應用提供一層高效便捷的資料抽象，加速對資料的訪問，並增強了資料的安全隔離，打破不同儲存的差異性帶來的資料孤島效應。
AI任務調度
針對AI計算類任務的特性，提供了支援Gang Scheduling、Capacity Scheduling、Binpack等任務調度策略，提升叢集的資源使用率。
異構資源Auto Scaling
通過智能的削峰填穀，避免不必要的雲上資源消費，並支援彈性模型訓練和模型推理。
叢集任務、使用者和資源的可觀測性
提供任務、使用者配額和叢集資源的監控大盤，能有效協助您合理評估投入產出。
應用情境
能夠提供
-
結合專案組劃分資源
可對專案成員進行小組劃分，且每個小組彼此隔離。可基於小組作為分配、隔離資源和許可權的基本單元。
-
使用者之間的隔離與共用
可以將整個叢集的資源根據具體需求劃分給每個組，及給組內成員分配不同許可權，比如：使用者對於作業的可見、可操作許可權，使用者的作業對特定資料的讀寫權限。
-
彈性配額
通過引入Capacity調度的彈性配額組，在確保使用者資源分派的基礎上通過資源共用的方式來提升叢集的整體資源使用率。
能夠提供
-
資料集抽象原生支援
將資料密集型應用所需基礎支撐能力功能化，實現資料高效訪問並降低多維管理成本。
-
雲上資料預熱與加速
Fluid通過使用分布式緩衝引擎（Alluxio inside）為雲上應用提供資料預熱與加速，同時可以保障快取資料的可觀測性，可遷移性和自動化水平擴充。
-
資料應用協同編排
雲上調度應用和資料時，能夠同時考慮兩者特性與位置，實現協同編排，提升效能。
-
多命名空間管理支援
一次性統一訪問不同來源的底層資料（Object Storage Service，HDFS和Ceph等儲存)，適用於混合雲情境。
-
異構資料來源管理
支援一次性、統一訪問不同來源的底層資料（如Object Storage Service，HDFS和Ceph等儲存)，適用於混合雲情境。
能夠提供
-
共用GPU調度
通過GPU共用調度架構實現多個容器運行在同一個GPU裝置上。
-
拓撲感知調度
GPU的調度過程中，選擇最優的GPU組合，達到最優的訓練速度。
-
Binpack調度
作業優先集中分配在某個節點，當節點資源不足時，依次在下一節點集中分配，避免跨機資料轉送。防止資源片段。
-
Gang任務調度
作業的所有子任務都能滿足資源需求才整體分配，否則不分配任務資源，避免由於資源死結，導致大作業擠佔小作業。
能夠提供
-
Arena AI工具集
提供命令列和go/java/python SDK，屏蔽所有底層資源、環境管理、任務調度、GPU分配和監控的複雜性。
-
相容多種深度學習架構，包括Tensorflow, Pytorch，Caffe, MPI, Hovorod等，覆蓋訓練資料集管理、AI任務管理、模型開發、分布式訓練、評估、推理上線等MLOps全流程。
-
研發控制台，提供按需分配的演算法開發環境，涵蓋Notebook管理、AI任務管理、模型管理及發布等全生命週期管理。
能夠提供
-
GPU資源利用即時大盤
多維度、即時掌控叢集資源利用情況。
-
管理加速資料集
可以一鍵加速叢集已有資料集，提高訪問效率。
-
使用者及使用者組管理
可根據專案建立使用者、使用者組，並更細粒度的控制使用者權限和配額。
-
彈性配額管理
結合Capacity調度，可實現資源在不同使用者組之間的動態借還。
