Alibaba Cloud Model Studio:モデルルーティング

インテリジェントモデルルーティングは、リクエスト内容を動的に分析し、候補セットから最適なモデルを自動的にマッチングすることで、複雑なシナリオにおける企業のAIリソース配分を最適化します。

概要

model-codeは固定のauto-modelプレフィックスに8文字のランダムな文字列が続く形式です（例：auto-model-abcd1234）。クライアントがこのmodel-codeを呼び出すと、→ ルーティングがリクエスト内容を動的に分析して候補セットから最も適したモデルをマッチングし → 実際のモデルが推論を行い → レスポンスを返します（x-dashscope-resolved-modelは実際のモデルを示し、実際のトークン使用量を保持します）。

適用範囲：

主なメリット：

• モデル効果の最大化：タスクごとに最適なモデルを自動的にマッチングするため、極めて高い品質要件を持つユーザーに最適です。
• 正確なコスト削減：シンプルなタスクは軽量モデルに、複雑なタスクはハイエンドモデルにルーティングし、過剰なプロビジョニングを回避してコストと需要の正確な整合を実現します。
• モデル選定の難しさを解消：手動でのモデル評価や比較は不要です。プラットフォームが最適なソリューションを自動選択するため、モデル選定の障壁が大幅に低下します。
• 学習コストの最小化：通常のモデルアクセスと同様で、model-codeを使用してコード変更なしで呼び出せます。

モデルルーターの作成

Bailianコンソールの「Model Inference > Dedicated Deployment」で、Deploy New Modelをクリックして作成ページに入り、「デプロイモード」でインテリジェントルーティングを選択します。

前提条件

• Bailianワークスペースが有効化されていること。
• 対象のルートモデルバージョンが公開されており、現在のアカウントにそのバージョンおよび候補モデルの呼び出し権限があること。

手順

1. サービス名を入力します（必須、最大50文字）。
2. デプロイモードで、「インテリジェントルーティング」を選択します。
3. ルートモデルバージョンで、公開済みのバージョン（プラットフォームにより維持）を選択します。
4. ルーティング戦略で、「Effect First」または「Cost First」を選択します。
5. 候補モデルセットで、候補モデルを選択します（少なくとも2つ）。
6. Confirm Deployをクリックして作成を完了します。

デプロイ後、システムはグローバルに一意なmodel-code（形式：auto-model-XXXXXXXX）を生成します。model-codeは削除後に再利用されません。

ルーティング戦略

ルーティング戦略は、候補セット内のどのモデルが各リクエストを実行するかを決定します。どちらの戦略もリクエスト内容に基づいて動的にマッチングを行います（固定ルーティングではありません）。選択は作成時に行われます。

候補モデルの設定

候補モデルセットは、ルーティングサービスが選択できる範囲です。モデルルーターを作成する際、候補モデルセットエリアの候補リストからルーティングに参加するモデルを選択します。少なくとも2つの候補モデルが必要であり、それ以外の場合はデプロイがブロックされます。

ルートモデルバージョンは、インテリジェントルーティング機能の標準化されたリリース形式です。各バージョンは、その段階でルーティングシステムがサポートするモデル範囲とコア機能を指定します。 候補リストは選択したルートモデルバージョンによって決定されます。各バージョンは一つの候補セットに対応し、バージョン間の組み合わせは許可されていません。 現在公開されているルートモデルバージョンと候補モデル：

表は候補モデルの呼び出し価格（USD/百万トークン）を示しています。deepseek-v4シリーズは繁忙期/閑散期の時間帯別課金を採用しています。すべての候補モデルは思考モードをサポートしており、思考トークンは出力価格で課金されます。

モデルルーターの呼び出し

作成後は、モデルルーターの呼び出しは通常のモデルの呼び出しと同じです。リクエスト内のmodelパラメータをルーターのmodel-code（例：auto-model-abcd1234）に置き換えるだけで、クライアントはコード変更なしで統合できます。

呼び出し例：

curl -X POST https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto-model-abcd1234",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_DASHSCOPE_API_KEY",
    base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
)
resp = client.chat.completions.create(
    model="auto-model-abcd1234",
    messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)
print(resp.model)  # the actual executing model name

# DashScope SDK (install first: pip install dashscope)
# インテリジェントルーティングは maas.aliyuncs.com ドメインのみをサポートします。workspace と region を Client コンストラクターに渡します
import dashscope

# インテリジェントルーティングは maas.aliyuncs.com ドメインのみをサポートします。以下はシンガポールリージョンの設定です。リージョンによって region の値は異なります。呼び出し時は、{WorkspaceId} をお使いのワークスペース ID に置き換えてください。
client = dashscope.Client(
    api_key="YOUR_DASHSCOPE_API_KEY",
    workspace="{WorkspaceId}",
    region="ap-southeast-1",
)
resp = client.chat.completions.create(
    model="auto-model-abcd1234",
    messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)

// OpenAI SDK (install first: npm install openai)

const OpenAI = require("openai");

const client = new OpenAI({
  apiKey: process.env.DASHSCOPE_API_KEY,
  baseURL: "https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
});
const resp = await client.chat.completions.create({
  model: "auto-model-abcd1234",
  messages: [{ role: "user", content: "Hello" }],
});
console.log(resp.choices[0].message.content);
console.log(resp.model); // the actual executing model name

レスポンス：x-dashscope-resolved-modelレスポンスヘッダーには実際に呼び出されたモデルの識別子が含まれています（これを使用してルーティングが有効になったことを確認できます）。ボディには実際の実行モデル名と実際のトークン使用量が保持され、課金は実際にルーティングされたモデルに基づいて行われます。

課金：インテリジェントルーティングは、各リクエストがルーティングされた実際のモデルに基づいて課金されます。ルーティングモデル自体は無料です。

自動フェイルオーバー

モデルルーティングには自動フェイルオーバー機能が組み込まれており、デフォルトで有効になっていて設定は不要です。ターゲットモデルが利用できない場合、ルーティングサービスは推論中に切り替えることなく、別の候補モデルでリクエスト全体を再発行します。

以下は自動フェイルオーバーをトリガーしません。エラーは実際のモデルの元のエラー情報とともにそのまま渡されます：

• 429 (rate limit)
• 400/403/404/500およびその他の確定エラー（モデルを切り替えても失敗する可能性が高い）
• タイムアウトまたはネットワークエラー
• ストリーミングがコンテンツの返却を開始した後のエラー

リアルタイムフィルタリングルール

ルーティングサービスは候補セットにリアルタイムフィルタリングを適用します：

• 現在のアカウントに呼び出し権限のないモデルを除外します。
• オフラインのモデルを除外します。
• 現在のリクエストのパラメータと互換性のないモデルを除外します（例：リクエストにresponse_formatが含まれる場合、そのパラメータをサポートする候補モデルにのみルーティングされます）。

単一リクエストに対して実際に選択可能なサブセットは、権限、モデルの状態、およびリクエストパラメータに応じて動的に変化します。

使用制限

プロトコルのサポート：

パラメータに関する注意事項

• response_format：このパラメータをサポートする候補モデルにのみルーティングされます。
• enable_search：このパラメータをサポートする候補モデルにのみルーティングされます。
• reasoning_effort：デフォルトでこのパラメータをサポートする候補モデルにのみルーティングされます。サポートされる列挙値：none、minimal、low、medium、high、xhigh、max。最小以外のティアは非思考モデルにのみルーティングされます。
• enable_thinking：思考モードをサポートする候補モデルにのみルーティングされます。

インテリジェントルーティングモードでは、以下のパラメータはサポートされていません。これらを設定するとランタイムエラーが発生します：

キャッシュ

インテリジェントルーティングは明示的なキャッシュをサポートしていません。実際に呼び出されたモデルが提供する暗黙的キャッシュのみをサポートします。 キャッシュがヒットするのは、リクエストが同じモデルにルーティングされ、かつプロンプトのプレフィックスがそのモデルのキャッシュ条件を満たす場合に限られます。 異なるリクエストが異なるモデルにルーティングされる可能性があるため、インテリジェントルーティングはキャッシュヒット率を保証しません。 キャッシュの仕組みとサポートされているモデルの詳細については、コンテキストキャッシュを参照してください。

ルートサービスの管理

詳細を表示

デプロイ後、Dedicated Deploymentリストのサービス名をクリックして詳細ページに入ります：

• 基本情報：サービス名、model-code、実行ステータス、ルーティング戦略タグ。
• ルート設定：ルートモデルバージョン、ルーティング戦略、候補セット、および候補モデルリスト。
• 課金：従量課金制で、実際のモデルの単価に基づいて課金されます。
• デプロイ設定：各候補モデルのTPM/RPMスロットルクォータ。

ルート設定の変更

ルート設定エリアの「編集」をクリックして、ルートバージョン、戦略、および候補モデルを変更できます。バージョンを切り替えると候補セットが変更され、数分以内に有効になりますが、ライブリクエストには影響しません。

特定のバージョンを選択した後、オンラインのルーティング動作は長期的に安定した状態を保ちます。ビジネスへの影響を避けるため、アップグレード前に十分な評価を行ってください。現在のバージョン：model-router-2026-0908。ルートバージョンは自動更新されません。

サービスの削除

専用デプロイメントリストからモデルルーティングサービスを削除します。削除後、model-codeは再利用されません。

ルーティング効果

本章では、ルーティング効果のメトリクスとモニタリングについて説明します。効果メトリクスは詳細ページの「ルーティング効果」タブで確認できます。呼び出しモニタリングはModel Monitoringページで確認できます。

ルーティングメトリクス

詳細ページの「ルーティング効果」タブで以下のメトリクスを確認できます。表示されるメトリクスは推定値であり、参考用です。課金の決済には使用されません。実際の課金は「Cost and Usage」に基づきます：

コストに関する注意事項

コスト分析データには約1時間の遅延があり、リアルタイムではありません。 上記のコストはすべてカタログ価格に基づく推定フルコストであり、アカウント割引や無料クォータは含まれておらず、ルーティングによる節約効果を評価するための参考値としてのみご利用ください。 段階課金モデルは最下層のカタログ価格を使用し、ピークバレー課金モデルはピーク価格を使用します。 実際の課金は「コストと使用量」で確認できます。

モデルモニタリング

より詳細な呼び出しモニタリングを行うには、モデルモニタリングページに移動してください。 ここでは、実際にルーティングされた個々のモデルのモニタリングではなく、auto-modelディメンションでのモデルモニタリングとログが表示されます。