Alibaba Cloud Model Studio:モデル圧縮

量子化などの技術を用いてモデルを圧縮し、推論コストを削減します。

概要

モデル圧縮 API は、量子化などの技術を通じてカスタムフルパラメータファインチューニングモデルを圧縮し、推論時のメモリ使用量を削減し、スループットを向上させます。現在、圧縮機能は量子化のみをサポートしており、テンプレートのクエリ、ジョブの作成、ステータスのポーリング、ログの取得、ジョブのキャンセル/削除まで、完全なライフサイクルをカバーしています。

典型的なフロー：

• 量子化可能なモデルと設定テンプレートをリストアップ → template_id と量子化可能な model を取得
• 圧縮ジョブを作成 → job_id を取得
• 圧縮ジョブのクエリ / 圧縮ジョブログの取得をポーリング → SUCCEEDED / FAILED / CANCELED になるまで
• SUCCEEDED 後、quantized_output を使用してデプロイメントを作成。不要になった場合は、圧縮ジョブをキャンセル / 圧縮ジョブを削除

すべての API エンドポイントのドメイン： https://dashscope-intl.aliyuncs.com。認証は一律で Authorization: Bearer ${YOUR_API_KEY} を使用し、POST リクエストには Content-Type: application/json を含める必要があります。

ジョブオブジェクトのフィールドと状態機械の意味については、「圧縮ジョブオブジェクト」をご参照ください。統一されたエラーコードについては、ドキュメントの最後にあるエラーコードをご参照ください。

クイックスタート

モデル圧縮 API は現在、シンガポールリージョンでのみ利用可能です。他のリージョンをご利用の場合は、そのリージョンの Bailian コンソールでモデル圧縮操作を行ってください。

モデル圧縮 API は、テンプレートのクエリ、ジョブの作成、ステータスのポーリング、ログの取得、ジョブのキャンセル/削除をカバーする完全な RESTful インターフェイスセットを提供します。このドキュメントは、開発者が OpenAPI または SDK を介して圧縮機能を統合することを目的としています。コンソールの紹介については、関連ドキュメントをご参照ください。

前提条件

このドキュメントのインターフェイスを呼び出す前に、以下を完了してください：

1. Alibaba Cloud Bailian サービスを有効化し、実名認証を完了していること。
2. 現在のワークスペースに、qwen3.5-flash-2026-02-23 をベースにしたカスタムフルパラメータファインチューニングモデルが少なくとも 1 つあること (ファインチューニングジョブインターフェイスを介して完了)。現在の圧縮機能はこのモデルのみをサポートしており、LoRA モデルおよび既に量子化されたモデルはサポートされていません。
3. API キーを取得していること (詳細については、「API キーの取得」をご参照ください)。

圧縮された出力モデルがサポートするデプロイメントユニットの仕様は、選択された量子化テンプレートによって決定され、デプロイメント数量は Bailian コンソールの「モデルデプロイ」で設定します。現在の圧縮機能は期間限定で無料です。

インターフェイス一覧

すべてのインターフェイスのドメイン： https://dashscope-intl.aliyuncs.com

認証

すべてのインターフェイスは、HTTP ヘッダーを介して API キーを渡します：

Authorization: Bearer ${YOUR_API_KEY}

Content-Type: application/json は、POST リクエストボディのシナリオに適用されます。

5分で開始

pip install requests

import requests, time

API_KEY = "YOUR_API_KEY"
BASE = "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress"
HEADERS = {"Authorization": f"Bearer {API_KEY}", "Content-Type": "application/json"}

# 1. 圧縮ジョブの作成
resp = requests.post(f"{BASE}/jobs", headers=HEADERS, json={
    "model": "qwen3.5-flash-2026-02-23-ft-***",  # カスタムファインチューニングモデル ID
    "template_id": "quant-flash-nvfp4-mlp-nomtp",          # GET /templates で取得
    "output_model_suffix": "test",                          # 最大 8 文字、小文字と数字のみ
}).json()
job_id = resp["output"]["job_id"]
print("Job:", job_id)

# 2. 終端状態になるまでポーリング
status = resp["output"]["status"]
while status not in ("SUCCEEDED", "FAILED", "CANCELED"):
    time.sleep(30)
    resp = requests.get(f"{BASE}/jobs/{job_id}", headers=HEADERS).json()
    status = resp["output"]["status"]
    print("Status:", status)

# 3. 結果の処理
if status == "SUCCEEDED":
    print("Quantized model:", resp["output"]["quantized_output"])
    # quantized_output を使用してモデルデプロイインターフェイスを呼び出し、デプロイする
elif status == "FAILED":
    print("Error:", resp["output"]["error"])

# 正常に圧縮されたすべてのジョブを一覧表示
resp = requests.get(f"{BASE}/jobs", headers=HEADERS, params={"status": "SUCCEEDED", "page_size": 20}).json()
for j in resp["output"]["jobs"]:
    print(j["job_id"], j["template_name"], j["quantized_output"])

# ジョブログの取得
resp = requests.get(f"{BASE}/jobs/{job_id}/logs", headers=HEADERS, params={"offset": 0, "line": 100}).json()
for line in resp["output"]["logs"]:
    print(line)

出力モデルの命名規則：

quantized_output = {base_model}-{output_model_suffix}-{job_id}

例えば、base_model が qwen3.5-flash-2026-02-23、suffix が test、job_id が quant-202604111200-a1b2 の場合、出力モデル ID は次のようになります：

qwen3.5-flash-2026-02-23-test-quant-202604111200-a1b2

各インターフェイスの cURL の使用法については、各インターフェイスの詳細ページをご参照ください。

圧縮ジョブオブジェクト

モデル圧縮 API は現在、シンガポールリージョンでのみ利用可能です。他のリージョンをご利用の場合は、そのリージョンの Bailian コンソールでモデル圧縮を行ってください。

オブジェクトのプロパティ

ジョブステータス

状態遷移：

PENDING ─→ QUEUING ─→ RUNNING ─→ SUCCEEDED
                  │           │
                  ↓           ↓
                CANCELING ─→ FAILED / CANCELED

量子化可能なモデルと設定テンプレートの一覧表示

現在のユーザーが持つ、量子化可能なすべてのカスタムファインチューニングモデルと、各モデルにバインドされた圧縮テンプレートを一覧表示します。テンプレートはモデルにバインドされており、モデルアーキテクチャ × 精度 × ターゲット MU 仕様の組み合わせによって、異なるテンプレートが対応します。

ベースモデルに基づいて現在のユーザーがフルファインチューニング (SFT/DPO/CPT) したカスタムモデルのみを返します。LoRA ファインチューニングモデルおよび既に量子化されたモデルは結果に表示されません。

GET /api/v1/fine-tunes/compress/templates

curl "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/templates" \
  -H "Authorization: Bearer ${API_KEY}"

{
  "request_id": "uuid-string",
  "output": {
    "base_models": ["qwen3.5-flash-2026-02-23"],
    "custom_models": [
      {
        "model": "qwen3.5-flash-2026-02-23-ft-***",
        "model_name": "My SFT fine-tuned model",
        "base_model": "qwen3.5-flash-2026-02-23",
        "templates": [
          {
            "template_id": "quant-flash-nvfp4-mlp-nomtp",
            "template_name": "W4A4 NVFP4 high-performance compression-MU5/MU8/MU9",
            "description": "Balances high precision and high performance under lower-bit compression, further reducing memory usage and improving inference throughput.",
            "compress_type": "quantization",
            "hyper_parameters": []
          }
        ]
      }
    ]
  }
}

{
  "request_id": "uuid-string",
  "output": {
    "base_models": ["qwen3.5-flash-2026-02-23"],
    "custom_models": [
      {
        "model": "qwen3.5-flash-2026-02-23-ft-***",
        "model_name": "My SFT fine-tuned model",
        "base_model": "qwen3.5-flash-2026-02-23",
        "templates": [
          {
            "template_id": "quant-flash-nvfp4-mlp-nomtp",
            "template_name": "W4A4 NVFP4 high-performance compression-MU5/MU8/MU9",
            "description": "Balances high precision and high performance under lower-bit compression, further reducing memory usage and improving inference throughput.",
            "compress_type": "quantization",
            "hyper_parameters": [
              {
                "name": "calib_input",
                "type": "string",
                "display_name": "Calibration input",
                "description": "Whether to enable calibration input",
                "support_values": ["true"],
                "defaultValue": "true",
                "recommend_value": "true",
                "required": false
              }
            ]
          }
        ]
      }
    ]
  }
}

圧縮ジョブの作成

POST /api/v1/fine-tunes/compress/jobs

curl -X POST "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs" \
  -H "Authorization: Bearer ${API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "job_name": "qwen3.5-flash compression job",
    "model": "qwen3.5-flash-2026-02-23-ft-***",
    "template_id": "quant-flash-nvfp4-mlp-nomtp",
    "custom_calibration_file_ids": ["file-***"],
    "output_model_suffix": "test"
  }'

{
  "request_id": "uuid-string",
  "output": {
    "job_id": "quant-202604111200-a1b2",
    "job_name": "qwen3.5-flash 圧縮ジョブ",
    "status": "PENDING",
    "model": "qwen3.5-flash-2026-02-23-ft-***",
    "base_model": "qwen3.5-flash-2026-02-23",
    "template_id": "quant-flash-nvfp4-mlp-nomtp",
    "template_name": "W4A4 NVFP4 パフォーマンス専有型圧縮-MU5/MU8/MU9",
    "training_type": "量子化",
    "compress_type": "量子化",
    "hyper_parameters": {},
    "custom_calibration_file_ids": ["file-***"],
    "quantized_output": null,
    "create_time": "2026-04-11 12:00:00",
    "start_time": null,
    "end_time": null,
    "error": null,
    "group": "量子化"
  }
}

レスポンスパラメーター：フィールドの意味はリクエストパラメーターと同じです。

圧縮ジョブの一覧表示

ステータス、モデル、テンプレート、量子化仕様、アルゴリズム、時間範囲、ジョブ名/ID によるフィルター、および作成時刻によるソートとページネーションをサポートします。

GET /api/v1/fine-tunes/compress/jobs

# 組み合わせ検索：ステータス + アルゴリズム + ページネーション
curl "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs?status=SUCCEEDED&quant_method=gptq&page_size=10" \
  -H "Authorization: Bearer ${API_KEY}"

# 時間範囲 + ジョブ名で検索 + 作成時刻で昇順ソート
curl "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs?start_time=2026-04-01&end_time=2026-04-30&search_key=qwen3&select_key=job_name&sort_by=create_time&sort_order=asc" \
  -H "Authorization: Bearer ${API_KEY}"

{
  "request_id": "uuid-string",
  "output": {
    "total": 42,
    "page_no": 1,
    "page_size": 10,
    "jobs": [
      {
        "job_id": "quant-202604111200-a1b2",
        "job_name": "qwen3.5-flash 圧縮ジョブ",
        "status": "SUCCEEDED",
        "model": "qwen3.5-flash-2026-02-23-ft-***",
        "base_model": "qwen3.5-flash-2026-02-23",
        "template_id": "quant-flash-nvfp4-mlp-nomtp",
        "template_name": "W4A4 NVFP4 パフォーマンス専有型圧縮-MU5/MU8/MU9",
        "training_type": "量子化",
        "compress_type": "量子化",
        "custom_calibration_file_ids": ["file-***"],
        "quantized_output": "qwen3.5-flash-2026-02-23-test-quant-202604111200-a1b2",
        "create_time": "2026-04-11 12:00:00",
        "start_time": "2026-04-11 12:02:30",
        "end_time": "2026-04-11 13:02:30",
        "group": "量子化",
        "usage": 3600
      }
    ]
  }
}

圧縮ジョブのクエリ

GET /api/v1/fine-tunes/compress/jobs/{job_id}

curl "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs/quant-202604111200-a1b2" \
  -H "Authorization: Bearer ${API_KEY}"

{
  "request_id": "uuid-string",
  "output": {
    "job_id": "quant-202604111200-a1b2",
    "job_name": "qwen3.5-flash 圧縮ジョブ",
    "job_description": "...",
    "status": "SUCCEEDED",
    "model": "qwen3.5-flash-2026-02-23-ft-***",
    "base_model": "qwen3.5-flash-2026-02-23",
    "template_id": "quant-flash-nvfp4-mlp-nomtp",
    "template_name": "W4A4 NVFP4 パフォーマンス専有型圧縮-MU5/MU8/MU9",
    "template_description": "低ビット圧縮において高い精度と高いパフォーマンスを維持し、GPU メモリ使用量をさらに削減して推論スループットを向上させます。",
    "training_type": "quantization",
    "compress_type": "quantization",
    "hyper_parameters": {},
    "custom_calibration_file_ids": ["file-***"],
    "quantized_output": "qwen3.5-flash-2026-02-23-test-quant-202604111200-a1b2",
    "create_time": "2026-04-11 12:00:00",
    "start_time": "2026-04-11 12:02:30",
    "end_time": "2026-04-11 13:02:30",
    "error": null,
    "group": "quantization",
    "usage": 3600
  }
}

圧縮ジョブログの取得

GET /api/v1/fine-tunes/compress/jobs/{job_id}/logs

{job_id} は、圧縮ジョブ作成インターフェイスまたは圧縮ジョブリストインターフェイスから取得できる圧縮ジョブ ID です。

curl "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs/quant-202604111200-a1b2/logs?offset=0&line=50" \
	-H "Authorization: Bearer ${API_KEY}"

{
  "request_id": "uuid-string",
  "output": {
    "total": 15,
    "logs": [
      "2026-04-11 12:02:35 - INFO - 量子化を開始しています...",
      "2026-04-11 12:30:00 - INFO - 量子化の進捗: 100%",
      "2026-04-11 12:35:00 - INFO - 量子化に成功しました!"
    ]
  }
}

• ジョブにカスタムキャリブレーションデータセットが提供されると、ログにデータ処理完了マーカー data process succeeded, start to quantization が含まれます。
• ログインターフェイスは内部システムマーカーを除外しており、ユーザーが読み取り可能な圧縮進捗情報のみを返します

圧縮ジョブのキャンセル

PENDING、QUEUING、または RUNNING 状態のジョブのみキャンセルできます。キャンセルは非同期操作です。ジョブはまず CANCELING 遷移状態に入り、最終的に CANCELED になります。

POST /api/v1/fine-tunes/compress/jobs/{job_id}/cancel

{job_id} は、Create compression job API または List compression jobs API から取得できる圧縮ジョブ ID です。

curl -X POST "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs/quant-202604111200-a1b2/cancel" \
  -H "Authorization: Bearer ${API_KEY}"

{
  "request_id": "uuid-string",
  "output": { "status": "success" }
}

圧縮ジョブの削除

終端状態 (SUCCEEDED / FAILED / CANCELED) のジョブのみ削除できます。ジョブレコードを削除しても、生成済みの量子化モデル (quantized_output) を削除することはありません。

DELETE /api/v1/fine-tunes/compress/jobs/{job_id}

ここで、{job_id} は、「Create compression job」 API または 「List compression jobs」 API から取得できる圧縮ジョブ ID です。

curl -X DELETE "https://dashscope-intl.aliyuncs.com/api/v1/fine-tunes/compress/jobs/quant-202604111200-a1b2" \
  -H "Authorization: Bearer ${API_KEY}"

{
  "request_id": "uuid-string",
  "output": { "status": "success" }
}

エラーコード

共通エラーコード

ビジネスエラーコード

以下のビジネスエラーコードは、シナリオ別に記載されています。External Code は、インターフェイスから返される実際の code フィールドの値です。

エラーレスポンス例

{
  "request_id": "uuid-string",
  "code": "InvalidParameter",
  "message": "The specified model 'xxx-lora-yyy' is a LoRA model and not supported for quantization."
}