本ドキュメントでは、プロビジョンドスループット (PTU) デプロイにおける長文入力とプレフィックスキャッシング機能について、クォータ消費ルール、容量計算ツールの使用方法、関連する API レスポンスフィールドの説明を含めて解説します。
概要
PTU デプロイは、長文入力リクエスト (一部のモデルでは最大 200K トークン) とプレフィックスキャッシングをサポートし、階層型容量係数とキャッシュ割引を使用して柔軟なクォータ管理を実現します。
主な機能：
- 長文入力のサポート：一部のモデルは 32K トークンを超える入力をサポートします。この上限を超える入力トークンは、階層型係数に基づいて、より高いレートで毎分トークン数 (TPM) クォータを消費します。詳細については、「クォータ消費ルール」をご参照ください。
- プレフィックスキャッシング割引：一部のモデルはプレフィックスキャッシングをサポートします。リクエストがキャッシュにヒットすると、キャッシュされた入力トークンはモデルごとに異なる割引レートでクォータを消費します。これにより、マルチターンの会話や反復的なプレフィックスを持つリクエストなどのユースケースでクォータ消費を削減できます。
- 従量課金への自動フォールバック：リクエストが PTU クォータまたはモデルの最大入力長 (Qwen モデルは 128K、DeepSeek モデルは 64K) を超えた場合、自動的に従量課金の課金方式にフォールバックします。呼び出し元のコードを変更する必要はありません。
重要リクエストが従量課金にフォールバックした後、そのリクエストは対応するモデルの従量課金レートで課金されます。予期しない料金を避けるために、容量計算ツールを使用して PTU クォータを計画することを推奨します。
これらの機能は、長文ドキュメント分析 (契約書、研究論文の要約) やマルチターンの会話 (カスタマーサポート、コーディングアシスタント) など、入力が 32K トークンを超えるシナリオで一般的に使用されます。
PTU デプロイの基本的な概念と購入情報については、「モデルデプロイの概要」をご参照ください。プレフィックスキャッシングの仕組みの詳細については、「コンテキストキャッシング」をご参照ください。
クォータ消費ルール
長文入力の階層型容量係数とキャッシュ割引はモデルによって異なります。次の表は、現在サポートされているモデルのパラメーターを示しています。
モデル | 最大入力長 | キャッシュ割引 | 階層型容量係数 |
|---|---|---|---|
glm-5.1 | 200K | 0.2 (キャッシュされたトークンは通常レートの 20% で容量を消費) | [0, 32K)：入力 1.0 / 出力 1.0 |
deepseek-v4-pro | 64K | 0.08 (キャッシュされたトークンは通常レートの 8% で容量を消費) | 階層なし (1.0) |
qwen3.7-plus-2026-05-26 | 128K | 0.2 (キャッシュされたトークンは通常レートの 20% で容量を消費) | 階層なし (1.0) |
その他のモデル | 詳細についてはコンソールをご参照ください。 | サポート対象外 | 階層なし (1.0) |
計算例 (glm-5.1)
シナリオ 1： 短文入力 (10K トークン、キャッシュなし)
入力消費量： 10K × 1.0 = 10K TPM
シナリオ 2： 長文入力 (50K トークン、キャッシュなし)
入力消費量： 32K × 1.0 + 18K × 1.33 = 55.94K TPM
出力消費量 (1K トークンと仮定)： 1K × 1.17 = 1.17K TPM
シナリオ 3： キャッシュヒットありの長文入力 (50K トークン、最初の 30K がキャッシュにヒット)
キャッシュされた入力部分 (最初の 30K、すべて [0, 32K) の階層内)：
30K × 1.0 × 0.2 = 6K TPM
キャッシュされていない入力部分 (残りの 20K)：
2K × 1.0 + 18K × 1.33 = 25.94K TPM
合計入力消費量 = 31.94K TPM (キャッシュなしの場合と比較して 43% 節約)
容量計算ツールによるクォータの見積もり
注記デプロイの作成またはスケールアウトの前に、計算ツールを使用して長文入力シナリオのクォータ要件を見積もることを推奨します。これにより、クォータ不足による従量課金へのフォールバックを防ぐことができます。最大購入可能額は、コンソールに表示される上限によって決まります。
開始する前に、Model Studio を有効化し、PTU デプロイに必要な権限があることを確認してください。Model Studio コンソールにログインします。[モデルデプロイ] > [デプロイの作成] ページ (または、既存のデプロイの詳細ページで [スケールアウト] をクリックして) で、デプロイ可能な PTU モデルを選択し、[容量計算ツール] を展開します。
容量計算ツールは、ワークロードに基づいて TPM クォータを推奨します。以下のパラメーターを入力すると、計算ツールは推奨される入力 TPM と出力 TPM を出力します。
パラメーター | 説明 | 結果への影響 |
|---|---|---|
毎分リクエスト数 (RPM) | ピークトラフィック時の 1 分あたりのリクエスト数。 | RPM が高いほど、推奨される入力および出力 TPM が比例して増加します。 |
平均入力長 (トークン) | リクエストあたりの平均入力トークン数。 | 入力が長いと、より高い容量係数を持つ上位の階層に分類される可能性があり、推奨される入力 TPM が増加します。階層の境界はモデルによって異なり、コンソールに表示されます。 |
平均出力長 (トークン) | リクエストあたりの平均出力トークン数。 | 出力が長いと、より大きな容量係数が適用される可能性があり、推奨される出力 TPM が増加します。 |
推定キャッシュヒット率 (%) | キャッシュにヒットすると予想される、リクエスト内の反復的なプレフィックスの割合。実際のヒット率はリクエスト内容の反復性に依存し、実行時に計算されます。 | ヒット率が高いほど入力クォータの消費が遅くなるため、推奨される入力 TPM が減少します。これは入力 TPM にのみ影響し、出力 TPM には影響しません。 |
API レスポンスフィールド
PTU デプロイの API レスポンスには、課金方法とクォータ消費を特定するための以下のクォータ関連フィールドが含まれます。
フィールド | タイプ | 説明 |
|---|---|---|
| String | レスポンスボディのトップレベルフィールドで、すべての API フォーマットで一貫しています。値が |
| Integer | 階層型容量係数とキャッシュ割引で調整された、消費された PTU クォータトークン数。 |
| Integer | プレフィックスキャッシュにヒットしたトークン数。詳細については、「コンテキストキャッシング」をご参照ください。 |
これらのフィールドの JSON パスは、API フォーマットによって異なります。
OpenAI Chat 互換
フィールド | JSON パス | 説明 |
|---|---|---|
|
| 入力のキャッシュヒット。 |
|
| 入力によって消費された PTU クォータ。 |
|
| 出力によって消費された PTU クォータ。 |
OpenAI レスポンス
フィールド | JSON パス | 説明 |
|---|---|---|
|
| 入力のキャッシュヒット。 |
|
| 入力によって消費された PTU クォータ。 |
|
| 出力によって消費された PTU クォータ。 |
Anthropic 互換
フィールド | JSON パス | 説明 |
|---|---|---|
|
| 入力によって消費された PTU クォータ。 |
|
| 出力によって消費された PTU クォータ。 |
注記Anthropic 互換フォーマットは、現在 cached_tokens フィールドを返しません。provisioned_tokens の値を観察することで、キャッシングの効果を推測できます。
DashScope
フィールド | JSON パス | 説明 |
|---|---|---|
|
| 入力のキャッシュヒット。 |
|
| 入力によって消費された PTU クォータ。 |
|
| 出力によって消費された PTU クォータ。 |
各フィールドの完全な定義と値の範囲については、API リファレンスをご参照ください。
モニタリングと検証
Model Studio のモデルモニタリング機能を使用して、PTU デプロイをモニタリングできます。これにより、長文入力とキャッシングに関連する以下のメトリクスを表示できます。
- PTU 使用率：入力、出力、思考モード出力の 3 つの個別の曲線が含まれます。長文入力シナリオでは、階層型容量係数により使用率が 100% を超えることがありますが、これは想定された動作です。
- トークン使用量とキャッシュヒット：
cached_tokensデータ系列が含まれ、総入力トークンに対するキャッシュされたトークンの比率を示します。 - クォータ内/クォータ外呼び出し：PTU クォータを超過した後に従量課金にフォールバックしたリクエストの割合を示します。
モニタリングメトリクスと手順の詳細については、「モデルのモニタリング」をご参照ください。
よくある質問
Q: 使用量が PTU クォータを超えた場合はどうなりますか？
リクエストは自動的に従量課金の課金方式にフォールバックします。API レスポンスでは、service_tier フィールドが存在しないか、default に設定され、レスポンスヘッダーには x-dashscope-ptu-overflow:true が含まれます。サービスは中断なく継続します。
Q: 1 回の入力がモデルの最大長を超えた場合はどうなりますか？
Qwen シリーズモデルの最大入力長は 128K トークン、DeepSeek シリーズモデルは 64K トークンです。これらの上限を超えるリクエストも、自動的に従量課金の課金方式にフォールバックします。
Q: キャッシングが機能していることを確認するにはどうすればよいですか？
API レスポンスの cached_tokens フィールドを確認してください。0 より大きい値は、プレフィックスキャッシュにヒットしたことを示します。キャッシュされた部分は、モデル固有の割引レートでクォータを消費します (詳細については、「クォータ消費ルール」をご参照ください)。また、コンソールのモニタリングページのトークン使用量チャートで傾向を確認することもできます。
Q: cached_tokens が常に 0 で、キャッシングが機能していないように見えるのはなぜですか？
一般的な理由としては、リクエスト間の入力プレフィックスに一貫性がない (System Message が変化するなど)、リクエストの間隔がキャッシュの有効期限を超えている、または入力トークン数が少なすぎてキャッシングがトリガーされない、などが挙げられます。トラブルシューティング手順とキャッシュの使用制限については、「コンテキストキャッシング」をご参照ください。
Q: なぜ使用率が 100% を超えるのですか？
glm-5.1 などの一部のモデルでは、長文入力に対する階層型容量係数により、実際のクォータ消費量が元のトークン数よりも高くなります。使用率は (調整後消費量) ÷ (購入クォータ) で計算されます。100% を超える値は、消費レートが購入クォータを超えていることを意味します。超過分は、サービスの可用性に影響なく、自動的に従量課金の課金方式にフォールバックします。