高速モードは、レイテンシーの影響を受けやすいシナリオ向けに、より高い TPS を提供します。
使用方法
高速モードは、次の主要な機能を提供します。
- 高速出力：TPS は標準 API の 1.5 倍から 2 倍に向上します。これは、AI コーディングアシスタント、マルチステップのエージェント推論、リアルタイム会話など、レイテンシーの影響を受けやすいシナリオに適しています。
- トークンベースの課金：課金ロジックは標準 API と同じで、入力トークンと出力トークンに基づいて課金されます。
- 特別なレート制限：呼び出し量がレート制限に達した場合でも、プラットフォームに空きリソースがあれば、レート制限はトリガーされません。そのため、実際に利用可能な TPS はレート制限を下回ることはありません。
高速モードを有効にするには、model パラメーターを 対応モデル のモデル ID に設定します。追加のパラメーターは必要ありません。エンドポイントは https://{workspace_id}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1 の形式です。ここで、{workspace_id} は、対応するリージョンに切り替えた後、ビジネススペース管理 ページで確認できます。
呼び出しの基本例：
glm 5.2 の Prime モードのモデル名は、引き続き glm-5.2-fast-preview です。
curl -X POST https://{workspace_id}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "glm-5.2-fast-preview",
"messages": [{"role": "user", "content": "Who are you"}],
"stream": false
}'
対応モデル
China (Beijing)
テキスト生成モデル | 料金 (100 万トークンあたり) | ||
|---|---|---|---|
入力単価 | 出力単価 | キャッシュヒット | |
glm-5.2-fast-preview | $2.200 | $7.702 | $0.550 |
動画生成モデル | 料金 ($/秒) | ||
480P | 720P | 1080P | |
wan3.0-video-prime | $0.068/秒 | $0.14/秒 | $0.28/秒 |
Singapore
テキスト生成モデル | 料金 (100 万トークンあたり) | ||
|---|---|---|---|
入力単価 | 出力単価 | キャッシュヒット | |
glm-5.2-fast-preview | $2.800 | $8.800 | $0.560 |
動画生成モデル | 料金 ($/秒) | ||
480P | 720P | 1080P | |
wan3.0-video-prime | $0.068/秒 | $0.14/秒 | $0.28/秒 |
例
glm-5.2 モデルは、デフォルトで推論用の reasoning_content フィールドを返します。ストリーミング中、推論コンテンツと応答コンテンツは、それぞれ delta.reasoning_content と delta.content を通じて配信されます。ストリーミング呼び出しの例：
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ.get("API_KEY"),
base_url=os.environ.get("BASE_URL"),
)
completion = client.chat.completions.create(
model="glm-5.2-fast-preview",
messages=[{"role": "user", "content": "Who are you"}],
stream=True,
)
for chunk in completion:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if hasattr(delta, "reasoning_content") and delta.reasoning_content:
print(delta.reasoning_content, end="", flush=True)
if hasattr(delta, "content") and delta.content:
print(delta.content, end="", flush=True)
応答の例：
{
"id": "chatcmpl-xxx",
"object": "chat.completion",
"model": "glm-5.2-fast-preview",
"choices": [{
"index": 0,
"message": {
"role": "assistant",
"reasoning_content": "...",
"content": "..."
},
"finish_reason": "stop"
}],
"usage": {
"prompt_tokens": 14,
"completion_tokens": 137,
"total_tokens": 151,
"prompt_tokens_details": { "cached_tokens": 0 },
"completion_tokens_details": { "reasoning_tokens": 127 }
}
}
課金
高速モードの課金ルールと料金については、「モデル推論の料金」をご参照ください。
エラーコード
高速モードの呼び出し時に発生する可能性のあるエラーコードと対応する解決策については、「エラーコード」をご参照ください。