モデルデプロイ タスクを作成します。
前提条件
-
「モデルデプロイの概要」および「API を使用したモデルのデプロイ」を読み、Alibaba Cloud Model Studio (Model Studio) でのモデルデプロイの仕組みと基本的なワークフローを理解している必要があります。
-
Model Studio 用の API キーを設定している必要があります。詳細については、「API キーの取得」をご参照ください。
モデルデプロイ
エンドポイント
POST https://dashscope-intl.aliyuncs.com/api/v1/deployments
リクエスト例
プロビジョニングされたスループット (PTU)
デプロイコマンドを実行すると、サービスが正常にデプロイされた直後から、使用していなくても課金が開始されます。続行する前に、サービスの課金ルールを確認することを推奨します。
プロビジョニングされたスループット課金方式は、使用時間に基づいて課金されます。この方法は、安定したスループット、高い同時実行数、低レイテンシー、予測可能なトラフィックを必要とするシナリオに適しています。このモードでは、プラットフォームがスループット/同時実行数と生成速度の両方をプロビジョニングしますが、これらを調整することはできません。
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"name": "my_qwen3_8b_ft_ptu",
"model_name": "qwen3-8b-ft-202511132025-0260",
"plan": "ptu",
"ptu_capacity": {
"input_tpm": 10000,
"output_tpm": 1000
}
}'モデルユニット
デプロイコマンドを実行すると、サービスが正常にデプロイされた直後から、使用していなくても課金が開始されます。続行する前に、サービスの課金ルールを確認することを推奨します。
後払いのモデルユニットプランのコンピューティングリソースは、先着順で割り当てられます。購入が失敗した場合、全額が返金されます。
モデルユニット課金方式は、使用時間に基づいて課金されます。この課金方法は、モデルのファインチューニング後の大規模な推論タスクに最適で、柔軟なパフォーマンスとコスト調整が可能な専用リソースを提供します。スループット/同時実行数と生成速度の両方をカスタマイズできます。
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"name": "my_qwen3_8b_ft_mu",
"model_name": "qwen3-8b-ft-202511132025-0260",
"plan": "mu",
"deploy_spec": "MU1",
"enable_thinking": true,
"capacity": 4,
"max_context_length": 10000,
"rpm_limit": 500,
"tpm_limit": 1000
}'モデルユニットのデプロイモードでは、以下の追加設定がサポートされています:
|
設定 |
詳細 |
|
サービス名 |
デプロイサービスに付けるカスタム名です。 |
|
モデルの選択 |
デプロイするモデルを選択します。事前学習済みのプラットフォームモデルやファインチューニング済みのモデルが含まれます。 |
|
モデルユニットタイプ |
デプロイ仕様を選択します。仕様によって、コンピューティング能力とパフォーマンスが異なります。 |
|
レプリカ数 |
デプロイの初期レプリカ数を設定します。この設定は、サービスの並行処理能力に影響します。 |
|
デプロイテンプレート |
「単一マシンデプロイ」などのデプロイテンプレートを選択します。テンプレートによって、リソース設定プランが異なります。この設定は、モデルユニット課金モードでのみ利用可能です。 |
|
モデル推論モードの設定 |
一部のモデルを モデルユニット 方式でデプロイする場合、推論モードや最大コンテキスト長などの設定が可能です。
|
|
最大コンテキスト |
一部のモデルの モデルユニット デプロイモードでサポートされています。最大コンテキスト長はモデルタイプに基づきます。 |
|
サービススロットリング |
一部のモデルの モデルユニット デプロイモードでサポートされています。モデル呼び出しの RPM と TPM を制限できます。 |
API を使用してこれらの設定を構成する方法については、「API を使用したモデルデプロイメントタスクの作成」をご参照ください。
トークン使用量課金
トークン使用量課金では、トークンの使用量に基づいて課金されます。この方法は、同時実行数やレイテンシーの要件が重要でない、コスト重視のシナリオに適しています。このモードは最高の価格優位性を提供します。プラットフォームがスループット/同時実行数と生成速度をプロビジョニングしますが、これらを調整することはできません。
curl "https://dashscope-intl.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
"model_name": "qwen3-8b-ft-202511132025-0260",
"plan": "lora",
"capacity": 1,
"name": "my_qwen3_8b_ft_lora"
}'capacity パラメーターは必須ですが、現在は効果がありません。スケーリングをリクエストするには、モデルデプロイコンソールに移動してフォームを送信してください。リクエストパラメータ
|
パラメーター |
タイプ |
場所 |
必須 |
説明 |
|||||||||||
|
model_name |
文字列 |
body |
はい |
デプロイするモデルの名前です。これは [マイモデル] のモデル ID に対応します。この ID は、Create Training Job API または Create Import Job API の出力からも取得できます。 |
|||||||||||
|
plan |
文字列 |
body |
はい |
デプロイプランです。以下の課金方法がサポートされています:
ファインチューニングされたモデルでサポートされているデプロイプランは、[マイモデル] で簡単に確認できます。 説明
現在、ファインチューニングされた CosyVoice モデルは |
|||||||||||
|
name |
文字列 |
body |
はい |
コンソールでのモデルの表示名です。 |
|||||||||||
|
capacity |
整数 |
body |
いいえ |
説明
現在、CosyVoice モデルは、対応する
|
|||||||||||
|
billing_method |
文字列 |
body |
いいえ |
|
|||||||||||
|
deploy_spec |
文字列 |
body |
はい |
この設定は 機能のサポート状況の詳細については、「モデルユニットデプロイの機能サポート」をご参照ください。 |
このパラメーターは、 説明
この値は、Get Deployable Model List API が返す |
||||||||||
|
enable_thinking |
ブール値 |
body |
いいえ |
一部のモデルでサポートされています。 |
|||||||||||
|
max_context_length |
数値 |
body |
いいえ |
一部のモデルでサポートされています。例: |
|||||||||||
|
rpm_limit |
数値 |
body |
いいえ |
一部のモデルでサポートされています。1 分あたりの最大リクエスト数 (RPM) を指定します。 |
|||||||||||
|
tpm_limit |
数値 |
body |
いいえ |
一部のモデルでサポートされています。1 分あたりの最大トークン数 (TPM) を指定します。 |
|||||||||||
|
ptu_capacity |
オブジェクト |
body |
いいえ |
この設定は 機能のサポート状況の詳細については、「PTU デプロイの機能サポート」をご参照ください。 このパラメーターを指定しない場合、システムはデフォルトで |
例: 例: |
||||||||||
|
ptu_capacity.input_tpm |
数値 |
body |
いいえ |
1 分あたりの最大入力トークン数 (TPM) を指定します。 |
|||||||||||
|
ptu_capacity.output_tpm |
数値 |
body |
いいえ |
1 分あたりの最大出力トークン数 (TPM) を指定します。 |
|||||||||||
|
ptu_capacity.thinking_output_tpm |
数値 |
body |
いいえ |
一部のモデルでサポートされています。プロビジョニングされた思考出力の 1 分あたりの最大トークン数 (TPM) を指定します。 |
|||||||||||
|
suffix |
文字列 |
body |
いいえ |
モデルがデプロイされると、新しいモデル名が生成されます。suffix パラメーターは、この新しい名前のサフィックスを指定します。これはグローバルに一意である必要があります。最大長は 8 文字です。モデルの最初のデプロイではサフィックスを省略できます。同じモデルを複数回デプロイする場合は、デプロイごとに一意のサフィックスを指定する必要があります。 詳細については、出力パラメーター deployed_model をご参照ください。 |
|||||||||||
対応モデル
レスポンスの例
コマンドは次の内容を返します。
{
"request_id": "f2ae64f7-83cc-410c-bc0b-840443f7eb86",
"output": {
"deployed_model": "emo-35b3f106-sample01",
"gmt_create": "2025-06-17T11:00:38.68",
"gmt_modified": "2025-06-17T11:00:38.68",
"status": "PENDING",
"model_name": "emo",
"base_model": "emo",
"base_capacity": 1,
"capacity": 1,
"ready_capacity": 0,
"workspace_id": "llm-v71tlv3d***",
"charge_type": "post_paid",
"creator": "175805416***",
"modifier": "175805416***"
}
}
応答パラメーター
|
パラメーター |
タイプ |
説明 |
|
request_id |
文字列 |
リクエストの ID。 |
|
output |
オブジェクト |
デプロイメントタスクの詳細。 |
|
deployed_model |
文字列 |
デプロイ済みモデルの一意な識別子。この ID は、デプロイメント詳細のクエリ、デプロイメントのレート制限の変更、デプロイメントのスケーリング、デプロイメントの削除などの API 操作で使用されるほか、モデル呼び出し時に SDK パラメーターとしても渡されます。 |
|
gmt_create |
文字列 |
デプロイメントタスクの作成時刻。 |
|
gmt_modified |
文字列 |
デプロイメントタスクの最終更新時刻。 |
|
status |
文字列 |
デプロイメントタスクのステータス。
|
|
model_name |
文字列 |
デプロイメントタスクで使用されるモデル名。 |
|
base_model |
文字列 |
デプロイメントタスクで使用されるベースモデルの ID。 |
|
base_capacity |
数値 |
ベースモデルの実行に必要な最小リソースユニット数。 |
|
capacity |
数値 |
デプロイメントタスクが使用するリソースユニット数。 |
|
ready_capacity |
数値 |
即座にリクエストを処理できる、準備が完了したリソースユニット数。リソースの初期化速度やハードウェアのステータスによって、この値は制限されることがあります。 |
|
workspace_id |
文字列 |
デプロイメントタスクのワークスペース ID。 |
|
charge_type |
文字列 |
デプロイメントタスクの課金方法。
|
|
creator |
文字列 |
デプロイメントタスクを作成したユーザーの UID。 |
|
modifier |
文字列 |
デプロイメントタスクを最終更新したユーザーの UID。 |
|
plan |
文字列 |
デプロイメントタスクの課金モデル。一部の課金モデルでは、このパラメーターは返されません。 |
|
[モデルユニット] デプロイメントの場合のみ返されます。 |
||
|
model_unit_spec |
文字列 |
Model Unit の仕様。 |
|
enable_thinking |
ブーリアン |
思考モードが有効になっているかどうかを示します。この機能は、特定のモデルでのみ利用できます。 |
|
max_context_length |
数値 |
最大コンテキスト長。 |
|
rpm_limit |
数値 |
1 分あたりの最大リクエスト数 (RPM)。 |
|
tpm_limit |
数値 |
1 分あたりの最大トークン数 (TPM)。 |
|
プロビジョニングされたスループット (PTU) デプロイメントの場合のみ返されます。 |
||
|
ptu_capacity |
オブジェクト |
このパラメーターは、 例: |
|
ptu_capacity.input_tpm |
数値 |
デプロイ済みモデルの1 分あたりの最大入力トークン数 (TPM)。この機能はすべてのモデルでサポートされています。 |
|
ptu_capacity.output_tpm |
数値 |
デプロイ済みモデルの1 分あたりの最大出力トークン数 (TPM)。この機能はすべてのモデルでサポートされています。 |
|
ptu_capacity.thinking_output_tpm |
数値 |
デプロイ済みモデルの1 分あたりの最大思考出力トークン数 (TPM)。この機能は、特定のモデルでのみ利用できます。 |
エラーレスポンス
レスポンス例
{
"request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
"message": "Model: qwen-plus-20230703-cx7f not found!",
"code": "NotFound"
}
レスポンスパラメーター
|
パラメーター |
タイプ |
説明 |
|
request_id |
文字列 |
リクエストの一意の ID。 |
|
code |
文字列 |
エラーコード。 |
|
message |
文字列 |
エラーメッセージ。 |
リクエストが失敗した場合、次のエラーが発生することがあります。
|
エラーコード |
エラーメッセージ |
原因 |
|
NotFound |
Model: xxx not found! |
|
|
Conflict |
Deployed model xxx already exists, please specify a suffix. |
既に使用されているサフィックスでデプロイメントタスクを作成しようとしました。 |
|
InvalidParameter |
Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000! |
無効なキャパシティーユニット数でデプロイメントタスクを作成または更新しようとしました。キャパシティーユニット数は、0 以上、1000 未満の 1 の倍数である必要があります。 |