すべてのプロダクト
Search
ドキュメントセンター

Alibaba Cloud Model Studio:OpenAI 互換 - バッチチャット

最終更新日:Nov 18, 2026

データアノテーションやコンテンツ生成など、リアルタイム応答を必要としないシナリオでは、リアルタイム推論 API はコストが高く、同時実行数も制限されます。Alibaba Cloud Model Studio のバッチチャット API は、リアルタイム API と同一の同期呼び出し方式を維持しており、リクエストを送信して最終結果が返されるのを待つだけで済みます。現在、本機能は公式ウェブサイトにて期間限定で 50% 割引が適用され、推論コストが直接 50% 削減されます。

本 API は単一リクエストの送信のみをサポートしています。複数のリクエストを一度に送信するには、ファイル経由で送信できます。詳細については、「OpenAI 互換 - バッチ(ファイル入力)」をご参照ください。

仕組み

  1. リクエストの送信:クライアントがリクエストを送信し、接続を確立します。

  2. 接続の維持:リクエストはキューに入り、クライアントは待機中も接続を開いたまま維持します。

  3. 同期返却:リクエストの処理が完了すると、サーバーはそれまで保持していた接続を通じて、完全な結果をクライアントに一度に返却します。

    最大待機時間を超過した場合、接続は自動的に閉じられ、タイムアウトエラーが返されます。

対応範囲

中国(北京)

  • テキスト生成モデル:qwen4-max、qwen3.8-max、qwen3.8-flash、qwen3.7-max、qwen3.7-plus、qwen3.6-plus、qwen3.7-flash、qwen3.6-flash、qwen3.5-plus、qwen3.5-flash、qwen-plus、qwen-flash
  • 画像および動画理解モデル:qwen4-max、qwen3.8-max、qwen3.8-flash、qwen3.7-plus、qwen3.6-plus、qwen3.7-flash、qwen3.6-flash、qwen3.5-plus、qwen3.5-flash、qwen3.5-omni-plus、qwen3.5-omni-flash、qwen3-vl-plus

重要

  • バッチシナリオでは、qwen3.8-max、qwen3.8-flash、qwen3.7-max、qwen3.7-plus、qwen3.6-plus、qwen3.7-flash、qwen3.6-flash、qwen3.5-plus、qwen3.5-flash、qwen3.5-omni-flash、qwen3.5-omni-plus は、1 リクエストあたり最大 256K のコンテキストトークンをサポートします。qwen3.5-omni-plus と qwen3.5-omni-flash は音声出力をサポートしません。
  • 一部のモデルは思考モードをサポートしており、有効化すると思考用の tokens が生成され、コストが増加します。
  • qwen3.8、qwen3.7、qwen3.6、qwen3.5 シリーズのモデルは、デフォルトで思考モードが有効になっています。ハイブリッド思考モデルを使用する場合は、enable_thinking パラメーターを明示的に設定することをお勧めします(true で有効化/false で無効化)。
  • JSONL リクエストボディでは、enable_thinking は body の最上位パラメーターであり、model と同じ階層で渡す必要があります。extra_body の内部に配置することはできません。

使用方法

前提条件

pip3 install -U openai

ステップ 1:API エンドポイントの構成

API エンドポイント(base_url)を変更するだけで、既存のリアルタイム推論リクエストをバッチ推論へ簡単に切り替えられます。呼び出し方法に応じて、正しい API エンドポイントを構成してください。

SDK 構成:base_url を https://batch.dashscope.aliyuncs.com/compatible-mode/v1 に設定します

HTTP 呼び出し:リクエストエンドポイントは POST https://batch.dashscope.aliyuncs.com/compatible-mode/v1/chat/completions です

ステップ 2:呼び出し

本セクションでは、テキスト会話を例として、バッチチャット API の呼び出し方法を示します。

リクエストのデフォルトの待機タイムアウトは 3600 秒(1 時間)です。ほとんどの場合、追加の構成は不要です。

以下の例は、参考としてカスタムタイムアウト(60~3600 秒)を明示的に設定する方法を示しています。

Python

リクエスト例
import os
from openai import OpenAI

client = OpenAI(
   # 若没有配置环境变量,可用阿里云百炼API Key将下行替换为:api_key="sk-xxx",但不建议在生产环境中直接将API Key硬编码到代码中,以减少API Key泄露风险.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://batch.dashscope.aliyuncs.com/compatible-mode/v1",  # 阿里云百炼Batch chat API 的 URL
).with_options(timeout=1800.0) # 设置1800秒(30分钟)的等待时间,最长3600秒

completion = client.chat.completions.create(
    model="qwen-plus",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "你是谁?"},
    ]
)
print(completion.choices[0].message.content)
応答例
我是千问,阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字,比如写故事、写公文、写邮件、写剧本、逻辑推理、编程等等,还能表达观点,玩游戏等。如果你有任何问题或需要帮助,欢迎随时告诉我!

Java

リクエスト例
import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.ChatCompletion;
import com.openai.models.chat.completions.ChatCompletionCreateParams;

import java.time.Duration;

public class Main {
    public static void main(String[] args) {
        OpenAIClient client = OpenAIOkHttpClient.builder()
                // 若没有配置环境变量,可用百炼API Key将下行替换为:.apiKey("sk-xxx")。但不建议在生产环境中直接将API Key硬编码到代码中,以减少API Key泄露风险。
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                .baseUrl("https://batch.dashscope.aliyuncs.com/compatible-mode/v1")  // # 阿里云百炼Batch chat API 的 URL
                .timeout(Duration.ofSeconds(1800)) // 设置等待时间1800秒(半小时),最长3600秒
                .build();

        ChatCompletionCreateParams params = ChatCompletionCreateParams.builder()
                .addUserMessage("你是谁")
                .model("qwen-plus")
                .build();

        try {
            ChatCompletion chatCompletion = client.chat().completions().create(params);
            System.out.println(chatCompletion);
        } catch (Exception e) {
            System.err.println("Error occurred: " + e.getMessage());
            e.printStackTrace();
        }
    }
}
応答例
ChatCompletion{id=chatcmpl-a12c115e-15fc-94f9-a984-81bd65f0527b, choices=[Choice{finishReason=stop, index=0, logprobs=, message=ChatCompletionMessage{
content=我是千问,阿里巴巴集团旗下的超大规模语言模型。我可以帮助你回答问题、创作文字、提供信息查询等服务。很高兴认识你!, refusal=, role=assistant, annotations=, audio=, functionCall=, toolCalls=, additionalProperties={}}, additionalProperties={}}], created=1763609020, model=qwen-plus, object_=chat.completion, serviceTier=, systemFingerprint=, usage=CompletionUsage{completionTokens=33, promptTokens=10, totalTokens=43, completionTokensDetails=, promptTokensDetails=, additionalProperties={}}, additionalProperties={}}

Node.js

リクエスト例
import OpenAI from "openai";

const openai = new OpenAI(
    {
        // 若没有配置环境变量,请用百炼API Key将下行替换为:apiKey: "sk-xxx",但不建议在生产环境中直接将API Key硬编码到代码中,以减少API Key泄露风险。
        apiKey: process.env.DASHSCOPE_API_KEY,
        baseURL: "https://batch.dashscope.aliyuncs.com/compatible-mode/v1", // 阿里云百炼Batch chat API的 URL
        // 在这里添加超时设置 (单位:毫秒)
        // 1800秒 * 1000 = 1,800,000 毫秒,最长支持 3,600,000 毫秒
        timeout: 1800 * 1000,
    }
);

async function main() {
    const completion = await openai.chat.completions.create({
        model: "qwen-plus",  //此处以qwen-plus为例,可按需更换模型名称。
        messages: [
            { role: "system", content: "You are a helpful assistant." },
            { role: "user", content: "你是谁?" }
        ],
    });
    console.log(JSON.stringify(completion))
}

main();
応答例
{
    "created": 1763618557,
    "usage": {
        "completion_tokens": 80,
        "prompt_tokens": 22,
        "total_tokens": 102
    },
    "model": "qwen-plus",
    "id": "chatcmpl-af23c086-8662-91eb-b236-892032ddee92",
    "choices": [
        {
            "finish_reason": "stop",
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "我是千问,由阿里云研发的超大规模语言模型。我能够回答问题、创作文字,如写故事、公文、邮件、剧本等,还能进行逻辑推理、编程,表达观点,玩游戏等。我支持多种语言,包括中文、英文、德语、法语、西班牙语等。如果你有任何问题或需要帮助,欢迎随时告诉我!"
            }
        }
    ],
    "object": "chat.completion"
}

Go

リクエスト例
package main

import (
    "context"
    "os"
    "time"

    "github.com/openai/openai-go"
    "github.com/openai/openai-go/option"
)

func main() {
    client := openai.NewClient(
    option.WithAPIKey(os.Getenv("DASHSCOPE_API_KEY")),
    // 阿里云百炼Batch chat API 的 URL
    option.WithBaseURL("https://batch.dashscope.aliyuncs.com/compatible-mode/v1"),
    )
    // 设置超时时间:1800秒 = 30分钟,最长支持3600秒
    ctx, cancel := context.WithTimeout(context.Background(), 3600*time.Second)
    defer cancel()

    chatCompletion, err := client.Chat.Completions.New(
    ctx, openai.ChatCompletionNewParams{
    Messages: []openai.ChatCompletionMessageParamUnion{
    openai.UserMessage("你是谁"),
    },
    Model: "qwen-plus",
    },
    )

    if err != nil {
    panic(err.Error())
    }

    println(chatCompletion.Choices[0].Message.Content)
}
応答例
我是千问,由阿里云研发的超大规模语言模型。我可以生成各种类型的文本,如文章、故事、诗歌、故事等,并能够根据不同的场景和需求进行变换和扩展。此外,我还能够回答各种问题,提供帮助和解决方案。很高兴为您服务!

C#(HTTP)

リクエスト例
using System;
using System.Net.Http;
using System.Net.Http.Headers;
using System.Text;
using System.Threading.Tasks;

class Program
{
    private static readonly HttpClient httpClient = new HttpClient
    {
        // 设置超时时间:1800秒 = 30分钟,最长支持3600秒
        Timeout = TimeSpan.FromSeconds(1800)
    };

    static async Task Main(string[] args)
    {
        // 若没有配置环境变量,请用百炼API Key将下行替换为:string? apiKey = "sk-xxx";
        string? apiKey = Environment.GetEnvironmentVariable("DASHSCOPE_API_KEY");

        if (string.IsNullOrEmpty(apiKey))
        {
            Console.WriteLine("API Key 未设置。请确保环境变量 'DASHSCOPE_API_KEY' 已设置。");
            return;
        }

        // 设置请求 URL 和内容
        string url = "https://batch.dashscope.aliyuncs.com/compatible-mode/v1/chat/completions"; // Batch chat API 的 URL
        // 此处以qwen-plus为例,可按需更换模型名称。
        string jsonContent = @"{
            ""model"": ""qwen-plus"",
            ""messages"": [
                {
                    ""role"": ""system"",
                    ""content"": ""You are a helpful assistant.""
                },
                {
                    ""role"": ""user"",
                    ""content"": ""你是谁?""
                }
            ]
        }";

        // 发送请求并获取响应
        string result = await SendPostRequestAsync(url, jsonContent, apiKey);

        // 输出结果
        Console.WriteLine(result);
    }

    private static async Task<string> SendPostRequestAsync(string url, string jsonContent, string apiKey)
    {
        using (var content = new StringContent(jsonContent, Encoding.UTF8, "application/json"))
        {
            // 设置请求头
            httpClient.DefaultRequestHeaders.Authorization = new AuthenticationHeaderValue("Bearer", apiKey);
            httpClient.DefaultRequestHeaders.Accept.Add(new MediaTypeWithQualityHeaderValue("application/json"));

            // 发送请求并获取响应
            HttpResponseMessage response = await httpClient.PostAsync(url, content);

            // 处理响应
            if (response.IsSuccessStatusCode)
            {
                return await response.Content.ReadAsStringAsync();
            }
            else
            {
                return $"请求失败: {response.StatusCode}";
            }
        }
    }
}
応答例
{
    "created": 1763620689,
    "usage": {
        "completion_tokens": 60,
        "prompt_tokens": 22,
        "total_tokens": 82
    },
    "model": "qwen-plus",
    "id": "chatcmpl-db85828d-af47-97a3-a2f4-120b8f7d72d3",
    "choices": [
        {
            "finish_reason": "stop",
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "我是千问,阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字,比如写故事、写公文、写邮件、写剧本、逻辑推理、编程等等,还能表达观点,玩游戏等。如果你有任何问题或需要帮助,欢迎随时告诉我!"
            }
        }
    ],
    "object": "chat.completion"
}

PHP(HTTP)

リクエスト例
<?php
// 设置Batch Chat 请求 的 URL
$url = 'https://batch.dashscope.aliyuncs.com/compatible-mode/v1/chat/completions';
// 若没有配置环境变量,请用百炼API Key将下行替换为:$apiKey = "sk-xxx";
$apiKey = getenv('DASHSCOPE_API_KEY');
// 设置请求头
$headers = [
    'Authorization: Bearer '.$apiKey,
    'Content-Type: application/json'
];
// 设置请求体
$data = [
    // 此处以qwen-plus为例,可按需更换模型名称。
    "model" => "qwen-plus",
    "messages" => [
        [
            "role" => "system",
            "content" => "You are a helpful assistant."
        ],
        [
            "role" => "user",
            "content" => "你是谁?"
        ]
    ]
];
// 初始化cURL会话
$ch = curl_init();
// 设置cURL选项
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, json_encode($data));
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_HTTPHEADER, $headers);
// 在此处设置Batch chat 请求的超时时间:1800秒 = 30分钟,最长支持3600秒
curl_setopt($ch, CURLOPT_TIMEOUT, 1800);
// 执行cURL会话
$response = curl_exec($ch);
// 检查是否有错误发生
if (curl_errno($ch)) {
    echo 'Curl error: ' . curl_error($ch);
}
// 关闭cURL资源
curl_close($ch);
// 输出响应结果
echo $response;
?>
応答例
{
    "created": 1763621824,
    "usage": {
        "completion_tokens": 81,
        "prompt_tokens": 22,
        "total_tokens": 103
    },
    "model": "qwen-plus",
    "id": "chatcmpl-b25aeb86-5cfe-93ea-ab03-aa3de1381c23",
    "choices": [
        {
            "finish_reason": "stop",
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "我是千问,由阿里云研发的超大规模语言模型。我能够回答问题、创作文字,如写故事、公文、邮件、剧本等,还能进行逻辑推理、编程,甚至表达观点和玩游戏。我支持多种语言,包括但不限于中文、英文、德语、法语、西班牙语等。如果你有任何问题或需要帮助,欢迎随时告诉我!"
            }
        }
    ],
    "object": "chat.completion"
}

curl

リクエスト例

最大待機時間 max-time を 1800 秒に設定します。最大サポート値は 3600 秒です。

curl -X POST https://batch.dashscope.aliyuncs.com/compatible-mode/v1/chat/completions \
--max-time 1800 \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "qwen-plus",
    "messages": [
        {
            "role": "system",
            "content": "You are a helpful assistant."
        },
        {
            "role": "user",
            "content": "你是谁?"
        }
    ]
}'
応答例
{
    "created": 1763622152,
    "usage": {
        "completion_tokens": 79,
        "prompt_tokens": 22,
        "total_tokens": 101
    },
    "model": "qwen-plus",
    "id": "chatcmpl-daa344d2-60df-9b79-81a4-28c9a10a0a0e",
    "choices": [
        {
            "finish_reason": "stop",
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "我是千问,阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字,如写故事、公文、邮件、剧本等,还能进行逻辑推理、编程,表达观点,玩游戏等。我支持多种语言,包括但不限于中文、英文、德语、法语、西班牙语等。如果你有任何问题或需要帮助,欢迎随时告诉我!"
            }
        }
    ],
    "object": "chat.completion"
}

制限事項

  • 待機時間:リクエスト送信後は結果を同期的に待機し、サーバーは最大 3600 秒(1 時間)接続を保持します。実際のニーズに応じてカスタムタイムアウトを設定でき、有効範囲は 60~3600 秒です。

  • 同時実行数の制限:1 つのアカウントでは、モデルごとに最大 10,000 件の保留中リクエストを維持できます。この上限を超えた新規リクエストは、保留中のリクエストが完了して空きが生じるまで、対応するエラーコードとともに拒否されます。

  • リクエストレート:1 つのアカウントがリクエストを送信できる最大レートは 1000 QPS(10,000 リクエスト/10 秒)です。

    この制限はシステムが設定する理論上の最大値です。実際の使用では、API の利用可能なリソースはシステム全体の負荷により動的に変化します。コードにリトライロジックを実装することをお勧めします。

課金の詳細

  • 課金単価:成功したリクエストの入力・出力トークンに対して、リアルタイムモデル呼び出しと同じ単価で課金されます。期間限定で、公式ウェブサイトではバッチチャット呼び出しが 50% 割引となり、最終料金はリアルタイム呼び出し価格の 50% となります。詳細については、「モデル一覧」をご参照ください。
  • 課金範囲:タスク内で正常に実行されたリクエストのみが課金対象です。失敗したリクエスト(システムエラーやタイムアウトを含む)は課金されません。

重要バッチ推論は独立した課金項目であり、前払い支払い(節約プラン)、新規ユーザー向け無料クォータ、コンテキストキャッシュなどの機能はサポートされません。

エラーコード

モデル呼び出しが失敗してエラーメッセージが返された場合は、トラブルシューティングについて「エラーコード」をご参照ください。

よくある質問

  1. バッチチャットのリクエストとリアルタイム API で処理時間に違いはありますか?

    はい。バッチチャットのリクエストはスケジューリングのためにキューに入る必要があるため、エンドツーエンドの処理時間は通常、リアルタイム API より長くなります。サーバー側の最大待機時間は 1 時間です。この時間内にリクエストが実行されなかった場合、接続は自動的に閉じられ、エラーが返されます。

  2. バッチチャットとバッチファイルはどのように選択すればよいですか?

    同期 API 呼び出しで、高い同時実行性をもって大量の独立した会話リクエストを送信する必要があるビジネスロジックにはバッチチャットを選択してください。多数のリクエストを含む単一の大きなファイルを処理し、結果ファイルの非同期取得を受け入れられる場合はバッチファイルを選択してください。

  3. バッチチャットはすべてのリクエストが完了することを保証しますか?

    いいえ。バッチチャットはバッチリソースを使用するため、完了はシステムリソースの割り当て状況に依存します。システムリソースがビジーな場合、リクエストはキューで待機する可能性があります。最大待機時間内にリクエストが実行にスケジュールされなかった場合、接続はタイムアウトして閉じられます。この場合、リクエストは課金されず、後で再試行できます。

関連ドキュメント