PAI-EAS 組み込みプロセッサによる PMML および XGBoost モデルのデプロイ - PAI - Alibaba Cloud - Platform For AI

Elastic Algorithm Service (EAS) は、PMML や XGBOOST などの一般的なモデルフレームワーク向けに、組み込みプロセッサを提供しており、サービスの迅速なデプロイメントを支援します。組み込みプロセッサが特定のビジネス要件を満たさない場合は、カスタムプロセッサを構築できます。

プロセッサによるデプロイメントの仕組み

モデル、プロセッサファイル、およびその他の必要なデプロイメントアーティファクトを準備し、Object Storage Service (OSS) や NAS などのクラウドストレージサービスにアップロードします。EAS は、これらのアーティファクトにアクセスするためにストレージサービスをマウントし、サービスをデプロイします。

EAS のプロセッサによるデプロイメントのワークフローは以下のとおりです。

このデプロイメント手法の主なポイントは以下のとおりです。

PAI では、さまざまな一般的なユースケース向けに公式プロセッサが提供されています。また、特定のビジネス要件を満たすために独自のモデルおよびカスタムプロセッサファイルを開発することも可能です。開発後は、これらのコンポーネントを Object Storage Service (OSS) や NAS などのクラウドストレージサービスにアップロードしてください。
モデルおよびプロセッサファイルを別々に開発・保存することを推奨します。これにより、デプロイ時にモデルのマウントパスを柔軟に設定できます。プロセッサファイル内では、get_model_path パラメーターを使用して設定済みのモデルパスを取得でき、モデルの頻繁な更新が必要な場合でも、容易に置き換えが可能です。
プロセッサを用いてサービスをデプロイする場合、EAS は選択した推論フレームワークに対応する公式環境イメージを自動的にプルします。さらに、プロセッサファイルに基づき、後続のサービスリクエストを処理するための HTTP サーバーを自動的にデプロイします。

説明

イメージによるデプロイメントの利用を推奨します。プロセッサを用いたデプロイメントでは、モデルの推論フレームワークおよびプロセッサファイルが実行環境の要件を満たしていることを保証する必要があります。この手法は、イメージによるデプロイメントと比較して柔軟性および効率性が低くなります。

パラメーター

以下の表は、コンソールにおけるプロセッサベースのデプロイメントに特有のパラメーターについて説明しています。その他のパラメーターについては、「カスタムデプロイメント」をご参照ください。

パラメーター

説明

Model Settings

モデルファイルは、以下のいずれかの方法で設定できます：

OSS：モデルファイルが格納されている OSS パスを選択します。
Download URL：パブリック URL を入力します。
PAI Model：登録済みモデルの名前およびバージョンから選択します。登録済みモデルの一覧を表示するには、「モデルの登録および管理」をご参照ください。

Processor Type

組み込みプロセッサおよびカスタムプロセッサの両方をサポートします。組み込みプロセッサの詳細については、「組み込みプロセッサ」をご参照ください。

Processor Type を EasyVision(CPU)、EasyVision(GPU)、EasyTransfer(CPU)、EasyTransfer(GPU)、EasyNLP、または EasyCV に設定した場合、Model Type を設定できます。利用可能なモデルカテゴリはプロセッサタイプによって異なります。ご使用のユースケースに応じて適切なカテゴリを選択してください。
Processor Type を Custom Processor に設定した場合、以下のパラメーターを設定できます：
- Processor Language： Cpp、Java、または python を選択します。
- Processor Package： OSS または Download URL を使用してプロセッサパッケージを指定します。
- Processor Main File：パッケージのエントリーファイルを指定します。