モデルデプロイ タスクを作成します。
前提条件
モデルのデプロイ
シンガポール
POST https://dashscope-intl.aliyuncs.com/api/v1/deployments
Windows CMD では、$DASHSCOPE_API_KEY を %DASHSCOPE_API_KEY% に置き換えてください。PowerShell では、$env:DASHSCOPE_API_KEY に置き換えてください。
リクエストパラメーター ヘッダー Content-Type string (必須) 固定値: application/json Authorization string (必須) API キー認証。形式は Bearer sk-xxxx です。 リクエストボディ model_name string (必須) デプロイするモデルの名前。マイモデル 内のモデル ID に対応します。Create a Tuning Job 操作の出力からも取得できます。 plan string (必須) デプロイプラン。有効な値:
mu: モデルユニットによる課金。
lora: LoRA 共有デプロイ (トークン使用量による課金)。
ptu: プロビジョニングされたスループットによる課金。
deploy_spec string (条件付き必須) デプロイテンプレート。plan が mu の場合に必須です。例: "deploy_spec": "MU1"。 Get Deployable Model List 操作が返す template_id フィールドから取得できます。 capacity integer (条件付き必須) デプロイで使用されるリソースユニット数。値は base_capacity の整数倍である必要があります。制約は deploy_spec によって異なります。たとえば、MU2 は 8 の倍数を必要とし、MU5 は 1 を受け入れます。 billing_method string (条件付き必須) 課金方法。plan が mu の場合に必須です。現在、"POST_PAY" (後払い) がサポートされています。 enable_thinking boolean (任意) plan が mu の場合にのみ利用できます。一部のモデルでサポートされています。true または false に設定できます。
max_context_length number (任意) plan が mu の場合にのみ利用できます。一部のモデルでサポートされています。例: "max_context_length": 131072。
rpm_limit number (任意) plan が mu の場合にのみ利用できます。一部のモデルでサポートされています。1 分あたりのリクエスト数 (RPM) を指定します。
tpm_limit number (任意) plan が mu の場合にのみ利用できます。一部のモデルでサポートされています。1 分あたりのトークン数 (TPM) を指定します。
ptu_capacity object (任意) plan が ptu の場合にのみ有効です。このパラメーターを指定しない場合、デフォルトで 10,000 input_tpm と 1,000 output_tpm になります。
ptu_capacity のプロパティ input_tpm number デプロイされたモデルがサポートする、1 分あたりの最大入力トークン数。 output_tpm number デプロイされたモデルがサポートする、1 分あたりの最大出力トークン数。 thinking_output_tpm number 一部のモデルでサポートされています。デプロイされたモデルがサポートする、プロビジョニングされた思考出力トークンの 1 分あたりの最大数。 name string (任意) コンソールでのモデルの表示名。このパラメーターを指定しない場合、model_name の値が自動的にデプロイ名として使用されます。 suffix string (任意) モデルがデプロイされると、新しいモデル名が生成されます。suffix は新しいモデル名のサフィックスを指定します。最大長は 8 文字で、グローバルに一意である必要があります。モデルを初めてデプロイする際はサフィックスを省略できます。同じモデルを複数回デプロイする場合は、デプロイを区別するためにサフィックスを指定する必要があります。 | モデルユニットによる課金モデルユニットによる課金では、モデルユニットの使用期間に基づいて課金されます。モデルのファインチューニング後の大規模な推論ワークロードに適しており、専用リソースと柔軟なパフォーマンスとコストを提供します。
以下のデプロイコマンドを実行すると、モデルデプロイサービスは、モデルをまだ呼び出していなくても、デプロイの成功直後から課金を開始します。デプロイコマンドを実行する前に、サービスの課金ルールを確認することを推奨します。
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"name": "my_qwen_plus",
"model_name": "qwen-plus-2025-12-01",
"plan": "mu",
"deploy_spec": "MU1",
"enable_thinking": true,
"capacity": 4,
"billing_method": "POST_PAY",
"max_context_length": 10000,
"rpm_limit": 500,
"tpm_limit": 1000
}'
トークン使用量による課金トークン使用量による課金では、トークンの使用量に基づいて課金されます。コスト効率を追求し、同時実行数とレイテンシーの要件が低いシナリオに適しています。このモードは最高の価格優位性を提供し、スループット/同時実行数と生成速度はプラットフォームによってプリセットされており、調整できません。 curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model_name": "qwen3-8b-ft-202511132025-0260",
"plan": "lora",
"capacity": 1,
"name": "qwen3-8b-ft"
}'
プロビジョニングされたスループットによる課金プロビジョニングされたスループットによる課金では、プロビジョニングされたスループットの使用期間に基づいて課金されます。安定したスループットの保証、高い同時実行数、低レイテンシー、予測可能なトラフィックを必要とするシナリオに適しています。このモードでは、スループット/同時実行数と生成速度はプラットフォームによってプリセットされており、調整できません。
以下のデプロイコマンドを実行すると、モデルデプロイサービスは、モデルをまだ呼び出していなくても、デプロイの成功直後から課金を開始します。デプロイコマンドを実行する前に、サービスの課金ルールを確認することを推奨します。
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"name": "my_qwen_flash",
"model_name": "qwen-flash-2025-07-28",
"plan": "ptu",
"ptu_capacity": {
"input_tpm": 10000,
"output_tpm": 1000
}
}'
|
デプロイのトラブルシューティングとパフォーマンスチューニング
max-num-seqs パラメーターは設定できません
プロビジョニングされたスループットによる課金とモデルユニットによる課金の方法における Model Studio のモデルデプロイでは、スループット、同時実行数、生成速度はプラットフォームによってプリセットされています。vLLM 内の max-num-seqs などの推論エンジンのパラメーターを直接調整することはできず、この API のリクエストパラメーターにそのようなパラメーターは存在しません。
モデルユニットによる課金の方法では、モデルユニットタイプ (deploy_spec リクエストパラメーター) を選択し、デプロイレプリカ数 (capacity リクエストパラメーター) を調整することで、スループットを間接的に制御できます。
デプロイテンプレートとリソースの分離
現在のデプロイテンプレートは、単一ノードデプロイ (シングルノードデプロイ - 拡張汎用推論) のみをサポートしており、マルチカードインスタンスの分離はサポートしていません。リソースの分離が必要な場合は、モデルユニットによる課金の方法を使用してください。この方法では、コンピューティングリソースがお客様の業務専用になります。
スロットリングエラーの処理
同時リクエストがレート制限のしきい値を超えると、API は HTTP 429 を返します。エラーコードは Throttling.RateQuota、エラーメッセージは Requests rate limit exceeded, please try again later です。対処方法:
- プロビジョニングされたスループットによる課金:
ptu_capacity の input_tpm と output_tpm を調整する (コンソールの入力 kTPM と出力 kTPM に相当)、またはリクエスト頻度を下げる。オーバーフローポリシーには、自動オーバーフロー (従量課金への切り替え) とPTU 容量のみ (容量を超えたリクエストは直接 429 を返す) があります。
- モデルユニットによる課金:
rpm_limit と tpm_limit を調整するか、リクエスト頻度を下げてください。
コンテキスト長のチューニング
モデルユニットによる課金の方法では、max_context_length リクエストパラメーターを使用して最大コンテキスト長を設定できます。値の範囲は 1 ~ 262144 です (実際の上限は、デプロイされたモデルの能力によって異なります)。このパラメーターは各リクエストのコンテキストサイズを制限し、それによってリクエストあたりのメモリ使用量も制限するため、OOM のリスクを軽減できます。
大量の画像を含むワークロードを処理する場合は、画像サイズと 1 リクエストあたりの画像数に基づいてこのパラメーターを設定してください。
レスポンスパラメーター request_id string リクエストの一意の識別子。 output object タスクの詳細。 プロパティ deployed_model string デプロイされたモデルの一意の識別子。デプロイステータスの照会とモデルの呼び出しに使用されます。 model_name string モデル名。 status string デプロイのステータス:
PENDING: デプロイタスクを作成中です。
UPDATING: デプロイタスクを更新中です。
RUNNING: デプロイタスクが実行中であり、デプロイされたモデルはリクエストを通常どおり処理できます。
STOPPED: デプロイタスクは停止されており、この時点では課金されません。
DELETING: デプロイタスクを削除中です。
FAILED: デプロイタスクの作成または更新に失敗しました。
base_model string 使用されたベースモデル。 gmt_create string デプロイタスクの作成時刻。 gmt_modified string デプロイタスクの更新時刻。 workspace_id string Model Studio API キーが属するワークスペースの ID。詳細については、「ワークスペース ID の取得」をご参照ください。 charge_type string 支払いモデル。post_paid は後払いを示します。 creator string 作成者の Alibaba Cloud アカウント ID。 modifier string デプロイタスクを最後に変更したユーザーの Alibaba Cloud アカウント ID。 plan string デプロイ方法。 base_capacity number ベースモデルの実行に必要な最小リソースユニット数。 ready_capacity number 準備が完了しており、即座にリクエストを処理できるリソースユニット数。 model_unit_spec string モデルユニットの仕様。plan が mu の場合にのみ返されます。 enable_thinking boolean 思考モードが有効かどうか。plan が mu の場合にのみ返されます。 max_context_length number 最大コンテキスト長の制限。plan が mu の場合にのみ返されます。 rpm_limit number 1 分あたりのリクエスト数。plan が mu の場合にのみ返されます。 tpm_limit number 1 分あたりのトークン数。plan が mu の場合にのみ返されます。 ptu_capacity object プロビジョニングされたスループットの設定。plan が ptu の場合にのみ返されます。 ptu_capacity のプロパティ input_tpm number デプロイされたモデルがサポートする、1 分あたりの最大入力トークン数。 output_tpm number デプロイされたモデルがサポートする、1 分あたりの最大出力トークン数。 thinking_output_tpm number 一部のモデルでサポートされています。デプロイされたモデルがサポートする、プロビジョニングされた思考出力トークンの 1 分あたりの最大数。 code string エラーコード。呼び出しが失敗した場合に返されます。 message string エラーの詳細な説明。呼び出しが失敗した場合に返されます。 | 成功レスポンスの例注目すべき主なフィールド: output.deployed_model (デプロイされたモデルの一意の識別子) と output.status (デプロイのステータス)。 {
"request_id": "f2ae64f7-83cc-410c-bc0b-840443f7eb86",
"output": {
"deployed_model": "qwen-plus-2025-12-01-mu-xxxx",
"gmt_create": "2025-06-17T11:00:38.68",
"gmt_modified": "2025-06-17T11:00:38.68",
"status": "PENDING",
"model_name": "qwen-plus-2025-12-01",
"base_model": "qwen-plus",
"model_unit_spec": "MU1",
"enable_thinking": true,
"max_context_length": 10000,
"rpm_limit": 500,
"tpm_limit": 1000,
"base_capacity": 1,
"ready_capacity": 0,
"workspace_id": "llm-v71tlv3d***",
"charge_type": "post_paid",
"creator": "175805416***",
"modifier": "175805416***",
"plan": "mu"
}
}
エラーレスポンスの例{
"code": "InvalidParameter",
"request_id": "BE213CDD-8A5C-59EE-9A67-055EAB0CB59B",
"message": "The model xxx does not exist or is not deployable"
}
|
次のステップ
デプロイは非同期操作です。この API を呼び出した後、デプロイの照会と管理 操作を使用してデプロイステータスを照会できます。