Platform For AI:Elastic Algorithm Service (EAS) クイックスタート

前提条件

ルートアカウントを使用して PAI をアクティブ化し、ワークスペースを作成します。PAI コンソールにログインします。左上隅で、PAI をアクティブ化するリージョンを選択します。次に、ワンクリック権限付与をクリックしてサービスをアクティブ化します。

課金情報

このトピックでは、パブリックリソースを使用してモデルサービスを作成します。課金方法は従量課金です。課金ルールの詳細については、「EAS の課金情報」をご参照ください。

事前準備

モデルサービスをデプロイするには、モデルファイルや Web インターフェイスなどのコードファイルを準備する必要があります。Alibaba Cloud の公式イメージがデプロイメント要件を満たさない場合は、カスタムイメージをビルドする必要があります。

# Download the model
from modelscope import snapshot_download
model_dir = snapshot_download('Qwen/Qwen3-0.6B')

from flask import Flask

app = Flask(__name__)

@app.route('/hello/model')
def hello_world():
    # Call the model here to get results
    return 'Hello World'

if __name__ == '__main__':
    app.run(host='0.0.0.0', port=8000)

サービスのデプロイ

1. PAI コンソールにログインします。ページの上部でリージョンを選択します。次に、目的のワークスペースを選択し、[Elastic Algorithm Service (EAS)] をクリックします。

2. [サービスをデプロイ] をクリックします。[カスタムモデルのデプロイ] セクションで、[カスタムデプロイメント] をクリックします。

3. デプロイメントパラメーターを設定します。主要なパラメーターを次のように設定します。他のパラメーターはデフォルト値のままでかまいません。

   • Deployment Method はイメージベースのデプロイメントです。

   • Image Configuration: Alibaba Cloud Image リストから vllm:0.11.2-mows0.5.1 を選択します。

   • Mount storage：このトピックでは、モデルファイルを OSS に保存する方法について説明します。たとえば、パスが oss://examplebucket/models/Qwen/Qwen3-0___6B の場合、OSS を選択して次のように設定できます。

     • Uri：モデルが保存されている OSS パス。この例では、このパラメーターを oss://examplebucket/models/ に設定します。

     • Mount Path：ストレージがマウントされるサービスインスタンス上の宛先パス。例：/mnt/data/。

   • 実行コマンド：公式イメージにはデフォルトの実行コマンドが含まれています。必要に応じてコマンドを変更できます。この例では、このパラメーターを vllm serve /mnt/data/Qwen/Qwen3-0___6B に設定します。

   • Resource Type で Public Resources を選択します。次に、Resource Specification で ecs.gn7i-c16g1.4xlarge を選択します。詳細については、「リソース設定」をご参照ください。

4. Deploy をクリックします。サービスのデプロイには約 5 分かかります。Service Status が Running になると、サービスは正常にデプロイされます。

オンラインデバッグ

サービスがデプロイされた後、オンラインデバッグ機能を使用して、サービスが期待どおりに実行されるかテストできます。モデルサービスに基づいて、リクエストメソッド、URI、およびリクエストボディを設定します。

サービスをオンラインでデバッグするには、次の手順を実行します：

1. Inference Service タブで、対象のサービスをクリックして概要ページに移動し、Online Debugging タブに切り替えます。

2. デバッグページの Request Parameter Online Tuning セクションで、リクエストパラメーターを設定し、Send Request をクリックします。リクエストパラメーターは次のとおりです：

   • チャットインターフェイス：既存の URL に /v1/chat/completions を追加します。

   • ヘッダー：リクエストヘッダーを追加します。キーを Content-Type に、値を application/json に設定します。

     

   • 本文：

     {
       "model": "/mnt/data/Qwen/Qwen3-0___6B",
       "messages": [
         {
           "role": "user",
           "content": "Hello!"
         }
       ],
       "max_tokens": 1024
     }

3. 応答は次の図に示されています。

   

サービスの呼び出し

curl http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/****/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: *********5ZTM1ZDczg5OT**********" \
-X POST \
-d '{
  "model": "/mnt/data/Qwen/Qwen3-0___6B",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "max_tokens": 1024
}' 

import requests

# Replace with your actual endpoint
url = 'http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/***/v1/chat/completions'
# Replace the Authorization value with your actual token
headers = {
    "Content-Type": "application/json",
    "Authorization": "*********5ZTM1ZDczg5OT**********",
}
# Format the request data according to your model's requirements
data = {
  "model": "/mnt/data/Qwen/Qwen3-0___6B",
  "messages": [
    {
      "role": "user",
      "content": "Hello!"
    }
  ],
  "max_tokens": 1024
}
# Send the request
resp = requests.post(url, json=data, headers=headers)
print(resp)
print(resp.content)

サービスの停止または削除

このトピックで作成された EAS サービスはパブリックリソースを使用し、従量課金制で課金されます。不要な料金が発生しないように、不要になったサービスは停止または削除してください。

参考

• LLM サービスの効率を向上させるには、「LLM インテリジェントルーターのデプロイメント」をご参照ください。

• EAS の機能の詳細については、「EAS の概要」をご参照ください。