クラウドネイティブ AI スイートは、Kubernetes 上で AI および機械学習ワークロードを構築・運用するためのフルスタックインフラストラクチャを提供する Container Service for Kubernetes (ACK) ソリューションです。リソース管理、ジョブスケジューリング、データアクセラレーション、ライフサイクルツールを処理することで、チームはクラスター管理ではなく、モデルの開発とトレーニングに集中できます。
このスイートは、CLI、多言語 SDK、ACK コンソールを通じてすべての機能を提供し、同じインターフェイスで Alibaba Cloud AI サービス、オープンソースフレームワーク、サードパーティ AI ツールと統合します。
アーキテクチャ
Container Service for Kubernetes (ACK) を基盤として、クラウドネイティブ AI スイートは下位のヘテロジニアスコンピューティング、ストレージ、ネットワークリソースを管理し、上位には標準の Kubernetes クラスターと API を提供します。この基盤上で、AI ワークロードに必要なスケジューリング、データオーケストレーション、ワークフロー、ライフサイクルの各コンポーネントを提供します。
PAI 連携
本スイートは Platform for AI (PAI) と連携し、高性能で弾力性のある AI プラットフォームを構築します。ACK は、PAI のサービスである Data Science Workshop (DSW)、Deep Learning Containers (DLC)、Elastic Algorithm Service (EAS) の弾力性と効率を向上させます。数回のクリックで Lightweight Platform for AI を ACK クラスターにデプロイすることで、PAI によって深く最適化されたアルゴリズムとエンジンをコンテナ化されたワークロードに取り込み、トレーニングと推論の両方を加速します。詳細については、「What is PAI?」をご参照ください。
主な機能
クラウドネイティブ AI スイートは Kubernetes を基盤とし、AI および機械学習アプリケーションとシステムにフルスタックのサポートと最適化を提供します。以下の表に、クラウドネイティブ AI スイートが提供する主な機能を示します。
|
機能 |
説明 |
参考情報 |
|
ヘテロジニアスリソース管理 |
|
|
|
AI Job スケジューリング |
|
|
|
弾性スケジューリング |
分散ディープラーニング Job の弾性スケジューリング：クラウドネイティブ AI スイートは、モデルのトレーニングとモデルの精度に影響を与えることなく、ワーカー数とノード数を動的にスケーリングします。クラウドネイティブ AI スイートは、クラスターにアイドル状態のリソースがある場合はワーカーを追加してトレーニングを高速化し、クラスターが十分なリソースを提供できない場合はワーカーを解放します。これにより、リソース不足によるモデルトレーニングへの影響を防ぎます。このモードは、クラスター全体のリソース利用率を大幅に向上させ、ノード障害の回避に役立ちます。このモードは、Job の起動待機時間も短縮します。 |
|
|
AI データオーケストレーションとアクセラレーション |
Fluid ：データセットの概念を導入します。トレーニング Job にデータ抽象化を提供し、データセットの管理、アクセス制御、データアクセスの高速化を支援するデータオーケストレーションおよびアクセラレーションプラットフォームを提供します。ack-fluid は、さまざまなストレージサービスからデータを取り込み、同じデータセットにデータを集約できます。また、ハイブリッドクラウド環境でクラウド上またはオンプレミスのストレージサービスに ack-fluid を接続して、データを管理しデータアクセスを高速化することもできます。さらに、ack-fluid は、さまざまな分散キャッシュサービスをサポートするよう拡張できます。各データセットにキャッシュサービスを設定し、データセットウォームアップ、キャッシュ容量のモニタリング、弾性スケーリングなどの機能を使用することで、トレーニング Job でのリモートデータ取り込みのオーバーヘッドを大幅に削減し、GPU コンピューティングの効率を向上させることができます。 |
|
|
AI Job ライフサイクル管理 |
|
ユースケース
クラウドネイティブ AI スイートは、異種リソース使用率の継続的な向上や、AI ジョブなどの異種ワークロードの効率的な処理に適しています。
ユースケース 1：異種リソース使用率の継続的な向上
クラウドネイティブ AI スイートは、クラウド上の異種リソースを抽象化して提供します。これには、コンピューティングリソース (CPU、GPU、NPU、VPU、FPGA など) 、ストレージリソース (OSS、NAS、CPFS、HDFS) 、ネットワークリソース (TCP、RDMA) が含まれます。クラウドネイティブ AI スイートを使用すると、これらのリソースを一元的に管理、運用保守、割り当てることができ、リソーススケーリングとソフトウェア/ハードウェアの最適化に基づいて、リソース使用率を継続的に向上させることができます。
ユースケース 2：AI ジョブなどの異種ワークロードの効率的な処理
クラウドネイティブ AI スイートは、TensorFlow、PyTorch、DeepSpeed、Ray、Horovod、Spark、Flink、Kubeflow、Kserve、vLLM、Triton Inference Server などの主要なオープンソースエンジンと互換性があり、セルフマネージドエンジンとランタイムもサポートします。また、クラウドネイティブ AI スイートは、パフォーマンス、効率、コストの観点からトレーニングジョブを継続的に最適化し、開発と運用保守のユーザーエクスペリエンスを最適化することで、エンジニアリング効率を向上させます。
ユーザーロール
クラウドネイティブ AI スイートでは、次のユーザーロールが定義されています。
|
ロール |
説明 |
|
O&M 管理者 |
AI インフラストラクチャの構築と日常の管理を行います。 詳細については、「スイートのデプロイ」、「ユーザーの管理」、「弾性クォータグループの管理」、および「データセットの管理」をご参照ください。 |
|
アルゴリズムエンジニアとデータサイエンティスト |
クラウドネイティブ AI スイートを使用してジョブを管理します。 詳細については、「モデルトレーニング」、「Kubernetes クラスターでのモデルトレーニング」、「Arena を使用した MLflow モデルレジストリでのモデル管理」、および「モデルの分析と最適化」をご参照ください。 |
クラウドネイティブ AI スイートの利用
ご自身のユーザーロールに基づいて、次の図の手順に従ってクラウドネイティブ AI スイートを利用します。
|
ステップ |
説明 |
コンソール |
|
1. 準備 (運用保守管理者) |
Alibaba Cloud アカウントの作成 Alibaba Cloud アカウントを作成し、本人確認を完了します。詳細については、「Alibaba Cloud アカウントの登録」をご参照ください。 |
|
|
ACK クラスターの作成 Container Service for Kubernetes (ACK) を有効化し、ACK クラスターを作成します。次のクラスター構成を推奨します。詳細については、「ACK マネージドクラスターの作成」をご参照ください。
|
||
|
(オプション) クラスターの依存関係の設定と依存クラウドリソースの作成
|
||
|
2. システムと環境 (運用保守管理者) |
クラウドネイティブ AI スイートの有効化とインストール
|
|
|
ユーザーとクォータの管理
|
AI Dashboard と kubectl 説明
Alibaba Cloud が提供する AI コンソール (開発者コンソールと運用保守コンソールを含む) は、2025 年 1 月 22 日から許可リスト機能として提供されます。許可リストが有効になる前にこれらのコンソールをデプロイした場合、既存のデプロイは影響を受けません。許可リストに含まれていないユーザーは、オープンソースコミュニティから AI スイートコンソールをインストールして設定できます。オープンソース設定の詳細については、「オープンソース AI コンソール」をご参照ください。 |
|
|
データの準備
|
||
|
(アルゴリズムエンジニアとデータサイエンティスト) |
クラウドネイティブ AI スイートでは、アルゴリズムエンジニアとデータサイエンティストは、Arena、Web コンソール、AI Developer Console を使用して、モデルの開発、モデルのトレーニング、推論サービスのデプロイ、Job の管理を行うことができます。
|
|
|
3. モデルのトレーニングとデプロイ (アルゴリズムエンジニアとデータサイエンティスト) |
Arena または AI Developer Console を使用する場合、次の手順でモデルをトレーニングおよびデプロイできます。 モデルの開発
モデルのトレーニング
モデルの管理
モデルのデプロイ モデルを推論サービスとしてデプロイします。詳細については、「AI サービスのデプロイ」、「AI サービスのデプロイ」をご参照ください。 |
AI Developer Console と Arena |
|
Lightweight Platform for AI を使用して、モデルを開発、トレーニング、デプロイします。 |
該当なし |
|
|
4. モニタリングと保守 (運用保守管理者) |
リソースのモニタリングと保守 クラスター、ノード、トレーニング Job、リソースクォータなど、さまざまなリソースのダッシュボードを表示します。詳細については、「クラウドネイティブ AI モニタリングダッシュボード」をご参照ください。 |
|
|
クォータの管理
|
||
|
ユーザーの管理 ユーザーまたはユーザーグループを作成、照会、更新、削除します。詳細については、「ユーザーの管理」と「ユーザーグループの管理」をご参照ください。 |
||
|
データセットの管理 |
||
|
弾性 Job の管理 弾性 Job と Job の詳細を表示します。詳細については、「弾性 Job の表示」をご参照ください。 |
||
|
5. 課金と支払い (運用保守管理者) |
2024年6月6日 00:00:00 (UTC+8) 以降、クラウドネイティブ AI スイートは無料です。詳細については、「クラウドネイティブ AI スイートの課金」をご参照ください。 |
|
|
日次請求書の生成
|
課金ルール
詳細については、「クラウドネイティブ AI スイートの課金」をご参照ください。
参考資料
|
参考 |
説明 |
|
いくつかの実践を通じて、Cloud Native AI Suite を開発および運用保守の作業に迅速に適用する方法を説明します。 |
|
|
Cloud Native AI Suite のリリースノートについて説明します。 |