Alibaba Cloud Model Studio:長文コンテキスト (Qwen-Long)

Python

import os
from pathlib import Path
from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),  # 設定されていない場合は、ご自身の API キーに置き換えてください。
    # 次の URL は中国 (北京) リージョン用です。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)

file_object = client.files.create(file=Path("Model_Studio_Phone_Product_Introduction.docx"), purpose="file-extract")
print(file_object.id)

Java

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.files.*;

import java.nio.file.Path;
import java.nio.file.Paths;

public class Main {
    public static void main(String[] args) {
        // クライアントを作成し、環境変数から API キーを使用します。
        OpenAIClient client = OpenAIOkHttpClient.builder()
                // 環境変数を設定していない場合は、次の行を .apiKey("sk-xxx") に置き換えてください。
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                // 次の URL は中国 (北京) リージョン用です。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
                .baseUrl("https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1")
                .build();
        // ファイルパスを設定します。必要に応じてパスとファイル名を変更してください。
        Path filePath = Paths.get("src/main/java/org/example/Model_Studio_Phone_Product_Introduction.docx");
        // ファイルアップロードのパラメーターを作成します。
        FileCreateParams fileParams = FileCreateParams.builder()
                .file(filePath)
                .purpose(FilePurpose.of("file-extract"))
                .build();

        // ファイルをアップロードし、file-id を出力します。
        FileObject fileObject = client.files().create(fileParams);
        System.out.println(fileObject.id());
    }
}

curl

# 次の URL は中国 (北京) リージョン用です。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
curl --location --request POST 'https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/files' \
  --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
  --form 'file=@"Alibaba Cloud Model Studio Phone Series Product Introduction.docx"' \
  --form 'purpose="file-extract"'

Python

import os
from openai import OpenAI, BadRequestError

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),  # 設定されていない場合は、ご自身の API キーに置き換えてください。
    # 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)
try:
    # メッセージリストを初期化します。
    completion = client.chat.completions.create(
        model="qwen-long",
        messages=[
            # sys1: ロールの定義。
            {'role': 'system', 'content': 'You are a helpful assistant.'},
            # sys2: ドキュメントの内容 (プレーンテキストまたは file-id)。
            # '{FILE_ID}' を会話で使用する file-id に置き換えてください。
            {'role': 'system', 'content': f'fileid://{FILE_ID}'},
            # リクエストに2番目のシステムメッセージが含まれる場合、ユーザーメッセージの内容は 9,000 トークンに制限されます。
            {'role': 'user', 'content': 'この記事は何について説明していますか？'}
        ],
        # すべての例では、モデルの応答プロセスを示すためにストリーミング出力を使用しています。ストリーミング出力を使用しない例については、https://www.alibabacloud.com/help/model-studio/text-generation をご参照ください。
        stream=True,
        stream_options={"include_usage": True}
    )

    full_content = ""
    for chunk in completion:
        if chunk.choices and chunk.choices[0].delta.content:
            # 出力内容を連結します。
            full_content += chunk.choices[0].delta.content
            print(chunk.model_dump())
        
        # トークン使用量を取得します。
        if chunk.usage:
            print(f"Total tokens: {chunk.usage.total_tokens}")

    print(full_content)

except BadRequestError as e:
    print(f"Error: {e}")
    print("ドキュメントをご参照ください: https://www.alibabacloud.com/help/model-studio/error-code")

Java

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.core.http.StreamResponse;
import com.openai.models.chat.completions.*;

public class Main {
    public static void main(String[] args) {
        // クライアントを作成し、環境変数から API キーを使用します。
        OpenAIClient client = OpenAIOkHttpClient.builder()
                // 環境変数を設定していない場合は、次の行を .apiKey("sk-xxx") に置き換えてください。
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                // 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
                .baseUrl("https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1")
                .build();

        // チャットリクエストを作成します。
        ChatCompletionCreateParams chatParams = ChatCompletionCreateParams.builder()
                //sys1: ロールの定義。
                .addSystemMessage("You are a helpful assistant.")
                //sys2: ドキュメントの内容 (プレーンテキストまたは file-id)。
                //'{FILE_ID}' を会話で使用する file-id に置き換えてください。
                .addSystemMessage("fileid://{FILE_ID}")
                //リクエストに2番目のシステムメッセージが含まれる場合、ユーザーメッセージの内容は 9,000 トークンに制限されます。
                .addUserMessage("この記事は何について説明していますか？")
                .model("qwen-long")
                .build();

        StringBuilder fullResponse = new StringBuilder();

        // すべての例では、モデルの応答プロセスを示すためにストリーミング出力を使用しています。ストリーミング出力を使用しない例については、https://www.alibabacloud.com/help/model-studio/text-generation をご参照ください。
        try (StreamResponse<ChatCompletionChunk> streamResponse = client.chat().completions().createStreaming(chatParams)) {
            streamResponse.stream().forEach(chunk -> {
                // 各チャンクの内容を出力し、連結します。
                System.out.println(chunk);
                String content = chunk.choices().get(0).delta().content().orElse("");
                if (!content.isEmpty()) {
                    fullResponse.append(content);
                }
            });
            System.out.println(fullResponse);
        } catch (Exception e) {
            System.err.println("Error: " + e.getMessage());
            System.err.println("ドキュメントをご参照ください: https://www.alibabacloud.com/help/model-studio/error-code");
        }
    }
}

curl

# 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
curl --location 'https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header "Content-Type: application/json" \
--data '{
    "model": "qwen-long",
    "messages": [
        {"role": "system","content": "You are a helpful assistant."},
        {"role": "system","content": "fileid://file-fe-xxx"},
        {"role": "user","content": "この記事は何について説明していますか？"}
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    }
}'

複数ドキュメントの受け渡し

import os
from openai import OpenAI, BadRequestError

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),  # 設定されていない場合は、ご自身の API キーに置き換えてください。
    # 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)
try:
    # メッセージリストを初期化します。
    completion = client.chat.completions.create(
        model="qwen-long",
        messages=[
            {'role': 'system', 'content': 'You are a helpful assistant.'},
            # '{FILE_ID1}' と '{FILE_ID2}' を会話で使用する file-id に置き換えてください。
            {'role': 'system', 'content': f"fileid://{FILE_ID1},fileid://{FILE_ID2}"},
            {'role': 'user', 'content': 'これらの記事は何について説明していますか？'}
        ],
        # すべての例では、モデルの応答プロセスを示すためにストリーミング出力を使用しています。ストリーミング出力を使用しない例については、https://www.alibabacloud.com/help/model-studio/text-generation をご参照ください。
        stream=True,
        stream_options={"include_usage": True}
    )
    
    full_content = ""
    for chunk in completion:
        if chunk.choices and chunk.choices[0].delta.content:
            # 出力内容を連結します。
            full_content += chunk.choices[0].delta.content
            print(chunk.model_dump())
    
    print(full_content)

except BadRequestError as e:
    print(f"Error: {e}")
    print("ドキュメントをご参照ください: https://www.alibabacloud.com/help/model-studio/error-code")

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.core.http.StreamResponse;
import com.openai.models.chat.completions.*;

public class Main {
    public static void main(String[] args) {
        // クライアントを作成し、環境変数から API キーを使用します。
        OpenAIClient client = OpenAIOkHttpClient.builder()
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                // 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
                .baseUrl("https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1")
                .build();

        // チャットリクエストを作成します。
        ChatCompletionCreateParams chatParams = ChatCompletionCreateParams.builder()
                .addSystemMessage("You are a helpful assistant.")
                //'{FILE_ID1}' と '{FILE_ID2}' を会話で使用する file-id に置き換えてください。
                .addSystemMessage("fileid://{FILE_ID1},fileid://{FILE_ID2}")
                .addUserMessage("これら2つの記事は何について説明していますか？")
                .model("qwen-long")
                .build();

        StringBuilder fullResponse = new StringBuilder();

        // すべての例では、モデルの応答プロセスを示すためにストリーミング出力を使用しています。ストリーミング出力を使用しない例については、https://www.alibabacloud.com/help/model-studio/text-generation をご参照ください。
        try (StreamResponse<ChatCompletionChunk> streamResponse = client.chat().completions().createStreaming(chatParams)) {
            streamResponse.stream().forEach(chunk -> {
                // 各チャンクの内容。
                System.out.println(chunk);
                String content = chunk.choices().get(0).delta().content().orElse("");
                if (!content.isEmpty()) {
                    fullResponse.append(content);
                }
            });
            System.out.println("\nFull response content:");
            System.out.println(fullResponse);
        } catch (Exception e) {
            System.err.println("Error: " + e.getMessage());
            System.err.println("ドキュメントをご参照ください: https://www.alibabacloud.com/help/model-studio/error-code");
        }
    }
}

# 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
curl --location 'https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header "Content-Type: application/json" \
--data '{
    "model": "qwen-long",
    "messages": [
        {"role": "system","content": "You are a helpful assistant."},
        {"role": "system","content": "fileid://file-fe-xxx1"},
        {"role": "system","content": "fileid://file-fe-xxx2"},
        {"role": "user","content": "これら2つの記事は何について説明していますか？"}
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    }
}'

ドキュメントの追加

import os
from openai import OpenAI, BadRequestError

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),  # 設定されていない場合は、ご自身の API キーに置き換えてください。
    # 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)
# メッセージリストを初期化します。
messages = [
    {'role': 'system', 'content': 'You are a helpful assistant.'},
    # '{FILE_ID1}' を会話で使用する file-id に置き換えてください。
    {'role': 'system', 'content': f'fileid://{FILE_ID1}'},
    {'role': 'user', 'content': 'この記事は何について説明していますか？'}
]

try:
    # 1巡目の応答
    completion_1 = client.chat.completions.create(
        model="qwen-long",
        messages=messages,
        stream=False
    )
    # 1巡目の応答を出力します。
    # ストリーミングする場合: stream=True を設定し、セグメントを連結して assistant_message の内容として渡します。
    print(f"First-round response: {completion_1.choices[0].message.model_dump()}")
except BadRequestError as e:
    print(f"Error: {e}")
    print("ドキュメントをご参照ください: https://www.alibabacloud.com/help/model-studio/error-code")

# assistant_message を構築します。
assistant_message = {
    "role": "assistant",
    "content": completion_1.choices[0].message.content}

# assistant_message を messages に追加します。
messages.append(assistant_message)

# 追加するドキュメントの file-id を messages に追加します。
# '{FILE_ID2}' を会話で使用する file-id に置き換えてください。
system_message = {'role': 'system', 'content': f'fileid://{FILE_ID2}'}
messages.append(system_message)

# ユーザーの質問を追加します。
messages.append({'role': 'user', 'content': 'これら2つの記事で説明されている手法の類似点と相違点は何ですか？'})

# ドキュメント追加後の応答。
completion_2 = client.chat.completions.create(
    model="qwen-long",
    messages=messages,
    # すべてのコード例では、モデルの出力プロセスを明確かつ直感的に示すためにストリーミング出力を使用しています。ストリーミング出力を使用しない例については、https://www.alibabacloud.com/help/model-studio/text-generation をご参照ください。
    stream=True,
    stream_options={
        "include_usage": True
    }
)

# ドキュメント追加後の応答をストリーミングして出力します。
print("Response after appending the document:")
for chunk in completion_2:
    print(chunk.model_dump())

import com.openai.client.OpenAIClient;
import com.openai.client.okhttp.OpenAIOkHttpClient;
import com.openai.models.chat.completions.*;
import com.openai.core.http.StreamResponse;

import java.util.ArrayList;
import java.util.List;

public class Main {
    public static void main(String[] args) {
        OpenAIClient client = OpenAIOkHttpClient.builder()
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                // 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
                .baseUrl("https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1")
                .build();
        // メッセージリストを初期化します。
        List<ChatCompletionMessageParam> messages = new ArrayList<>();
        
        // ロール設定の情報を追加します。
        ChatCompletionSystemMessageParam roleSet = ChatCompletionSystemMessageParam.builder()
                .content("You are a helpful assistant.")
                .build();
        messages.add(ChatCompletionMessageParam.ofSystem(roleSet));
        
        // '{FILE_ID1}' を会話で使用する file-id に置き換えてください。
        ChatCompletionSystemMessageParam systemMsg1 = ChatCompletionSystemMessageParam.builder()
                .content("fileid://{FILE_ID1}")
                .build();
        messages.add(ChatCompletionMessageParam.ofSystem(systemMsg1));

        // ユーザーの質問メッセージ (USER ロール)。
        ChatCompletionUserMessageParam userMsg1 = ChatCompletionUserMessageParam.builder()
                .content("記事の内容を要約してください。")
                .build();
        messages.add(ChatCompletionMessageParam.ofUser(userMsg1));

        // 1巡目のリクエストを構築し、例外を処理します。
        ChatCompletion completion1;
        try {
            completion1 = client.chat().completions().create(
                    ChatCompletionCreateParams.builder()
                            .model("qwen-long")
                            .messages(messages)
                            .build()
            );
        } catch (Exception e) {
            System.err.println("Request error. See error code page:");
            System.err.println("https://www.alibabacloud.com/help/model-studio/error-code");
            System.err.println("Error details: " + e.getMessage());
            e.printStackTrace(); 
            return; 
        }

        // 1巡目の応答。
        String firstResponse = completion1 != null ? completion1.choices().get(0).message().content().orElse("") : "";
        System.out.println("First-round response: " + firstResponse);

        // AssistantMessage を構築します。
        ChatCompletionAssistantMessageParam assistantMsg = ChatCompletionAssistantMessageParam.builder()
                .content(firstResponse)
                .build();
        messages.add(ChatCompletionMessageParam.ofAssistant(assistantMsg));

        // '{FILE_ID2}' を会話で使用する file-id に置き換えてください。
        ChatCompletionSystemMessageParam systemMsg2 = ChatCompletionSystemMessageParam.builder()
                .content("fileid://{FILE_ID2}")
                .build();
        messages.add(ChatCompletionMessageParam.ofSystem(systemMsg2));

        // 2巡目のユーザーの質問 (USER ロール)。
        ChatCompletionUserMessageParam userMsg2 = ChatCompletionUserMessageParam.builder()
                .content("2つの記事の構造的な違いを比較してください。")
                .build();
        messages.add(ChatCompletionMessageParam.ofUser(userMsg2));

        // すべての例では、モデルの応答プロセスを示すためにストリーミング出力を使用しています。ストリーミング出力を使用しない例については、https://www.alibabacloud.com/help/model-studio/text-generation をご参照ください。
        StringBuilder fullResponse = new StringBuilder();
        try (StreamResponse<ChatCompletionChunk> streamResponse = client.chat().completions().createStreaming(
                ChatCompletionCreateParams.builder()
                        .model("qwen-long")
                        .messages(messages)
                        .build())) {

            streamResponse.stream().forEach(chunk -> {
                String content = chunk.choices().get(0).delta().content().orElse("");
                if (!content.isEmpty()) {
                    fullResponse.append(content);
                }
            });
            System.out.println("\nFinal response:");
            System.out.println(fullResponse.toString().trim());
        } catch (Exception e) {
            System.err.println("Error: " + e.getMessage());
            System.err.println("ドキュメントをご参照ください: https://www.alibabacloud.com/help/model-studio/error-code");
        }
    }
}

# 中国 (北京) リージョンのエンドポイントです。{WorkspaceId} をご利用のワークスペース ID に置き換えてください。URL はリージョンによって異なります。
curl --location 'https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1/chat/completions' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header "Content-Type: application/json" \
--data '{
    "model": "qwen-long",
    "messages": [
        {"role": "system","content": "You are a helpful assistant."},
        {"role": "system","content": "fileid://file-fe-xxx1"},
        {"role": "user","content": "この記事は何について説明していますか？"},
        {"role": "system","content": "fileid://file-fe-xxx2"},
        {"role": "user","content": "これら2つの記事で説明されている手法の類似点と相違点は何ですか？"}
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    }
}'