EAS サービスをデプロイすると、デフォルトで共有ゲートウェイが提供されます。このゲートウェイを使用して、インターネットエンドポイントまたは VPC エンドポイント経由でデプロイ済みのモデル推論サービスを呼び出すことができます。
共有ゲートウェイは開発およびテスト環境での使用を推奨します。本番環境では、専用ゲートウェイをご利用ください。
呼び出しアドレスの選択
共有ゲートウェイをデプロイすると、デフォルトで以下の 2 種類の呼び出しアドレスが提供されます。
呼び出しアドレス | 説明 | 適用範囲 |
インターネットエンドポイント | EAS 共有ゲートウェイがリクエストをターゲットサービスに転送します。この方法は、パブリックインターネットにアクセス可能なすべての環境に適しています。 |
|
VPC エンドポイント | ご利用のアプリケーションと EAS サービスが同一リージョンにデプロイされているシナリオに適しています。 重要 パブリックインターネット経由の呼び出しと比較して、VPC 経由の呼び出しはパブリックネットワークのオーバーヘッドを回避できるためレイテンシーが低く、VPC 内のトラフィックは通常無料であるためコスト効率も高くなります。 |
|
サービスの呼び出し
ステップ 1：エンドポイントとトークンの取得
サービスをデプロイすると、システムにより自動的にエンドポイントと認証トークンが生成されます。
コンソールにはベースエンドポイントが表示されます。完全なリクエスト URL を構築する際は、このベースエンドポイントに正しい API パスを追加する必要があります。パスが正しくないことが、404 Not Found エラーの最も一般的な原因です。
Inference Service タブで、対象サービスの名前をクリックし、Overview ページに移動します。
Basic Information セクションで、View Endpoint Information をクリックします。
Invocation Method パネルで、エンドポイントとトークンをコピーします。
必要に応じて、インターネットエンドポイント または VPC エンドポイント を選択します。
以下の例では、エンドポイントのプレースホルダーとして <EAS_ENDPOINT>、トークンのプレースホルダーとして <EAS_TOKEN> を使用します。
ステップ 2：リクエストの構築と送信
インターネットエンドポイントを使用する場合も、VPC エンドポイントを使用する場合も、リクエスト形式は同じです。標準的なリクエストには以下の要素が含まれます。
要素 | 説明 |
メソッド | POST および GET が最も一般的です。 |
リクエストパス (URL) | 形式：<EAS_ENDPOINT> + API パス。例： |
Authorization (必須) |
|
Content-Type |
|
リクエストボディ | デプロイ済みモデルの API 仕様によって形式が決まります。ゲートウェイ経由で送信するリクエストボディのサイズは 1 MB を超えてはなりません。 |
呼び出し例
以下の例は、vLLM でデプロイされた DeepSeek-R1-Distill-Qwen-7B モデルサービスを呼び出す方法を示しています。<EAS_ENDPOINT> は http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/test であると仮定します。
リクエストボディ：
{
"model": "DeepSeek-R1-Distill-Qwen-7B",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "hello!"
}
]
}コード例：
curl http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/test/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: *********5ZTM1ZDczg5OT**********" \
-X POST \
-d '{
"model": "DeepSeek-R1-Distill-Qwen-7B",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "hello!"
}
]
}' import requests
# 実際のエンドポイントに置き換えてください。
url = 'http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/test/v1/chat/completions'
# ヘッダー内の Authorization の値は、実際のトークンに置き換えてください。
headers = {
"Content-Type": "application/json",
"Authorization": "*********5ZTM1ZDczg5OT**********",
}
# 特定のモデルで必要なデータ形式に基づき、サービスリクエストを構築します。
data = {
"model": "DeepSeek-R1-Distill-Qwen-7B",
"messages": [
{
"role": "system",
"content": "You are a helpful assistant."
},
{
"role": "user",
"content": "hello!"
}
]
}
# リクエストを送信します。
resp = requests.post(url, json=data, headers=headers)
print(resp)
print(resp.content)大規模言語モデル (LLM) サービスの呼び出しに関する詳細については、「LLM サービス呼び出し」をご参照ください。
その他のデプロイメントシナリオ
モデルギャラリーからデプロイされたモデル：モデルの Overview ページに、通常、API 呼び出しの例（完全な URL パスおよびリクエスト形式を含む）が記載されています。
cURL コマンド
一般的なパラメーター：
パラメーター
説明
例
-XHTTP メソッドを指定します。
-X POST-Hリクエストヘッダーを追加します。
-H "Content-Type: application/json"-dリクエストボディを追加します。
-d '{"key": "value"}'
Python コード
以下の例は、Qwen3-Reranker-8B モデルを使用して Python コードでサービスを呼び出す方法を示しています。cURL の例とは URL やリクエストボディが異なることにご注意ください。必ずモデルの概要ページの指示に従ってください。
シナリオ別のデプロイメント：
汎用プロセッサ（TensorFlow、Caffe、PMML など）を使用してデプロイされたサービス：「汎用プロセッサに基づくサービスリクエストの構築」をご参照ください。
その他のカスタムサービス：リクエスト形式は、カスタムイメージまたはコード内で定義されたデータ入力形式によって決まります。
独自にトレーニングしたモデル：呼び出し方法は元のモデルと同じです。
よくある質問
サービス呼び出しに関する一般的な問題と解決策については、「サービス呼び出しに関するよくある質問」をご参照ください。