Alibaba Cloud Model Studio:ディープシンキング

サンプルコード

from openai import OpenAI
import os

# OpenAI クライアントを初期化します。
client = OpenAI(
    # API キーはリージョンによって異なります。API キーを取得するには、https://www.alibabacloud.com/help/ja/model-studio/get-api-key をご参照ください
    # 環境変数が設定されていない場合は、次の行を Model Studio API キーに置き換えます：api_key="sk-xxx"
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # 構成はリージョンによって異なります。実際のリージョンに基づいてこれを変更してください。
    base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "あなたは誰ですか？"}]

completion = client.chat.completions.create(
    model="qwen-plus",  # 必要に応じて、これを別のディープシンキングモデルに置き換えることができます。
    messages=messages,
    extra_body={"enable_thinking": True},
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # 完全な思考プロセス
answer_content = ""  # 完全な応答
is_answering = False  # 応答フェーズが開始したかどうかを確認するフラグ
print("\n" + "=" * 20 + "思考プロセス" + "=" * 20 + "\n")

for chunk in completion:
    if not chunk.choices:
        print("\n使用量:")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # 思考コンテンツのみを収集します。
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # コンテンツが受信されたら、応答を開始します。
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "完全な応答" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

応答

====================思考プロセス====================

ユーザーが「あなたは誰ですか？」と尋ねたので、正確でフレンドリーな回答を提供する必要があります。まず、自分のアイデンティティ、つまり Alibaba Group 傘下の Tongyi ラボによって開発された Qwen であることを確認する必要があります。次に、質問への回答、テキストの作成、論理的推論などの主な機能を説明する必要があります。また、ユーザーが安心できるように、フレンドリーなトーンを保ち、専門的になりすぎないようにする必要があります。回答が簡潔で明確になるように、複雑な専門用語も避けるべきです。さらに、さらなるコミュニケーションを促すために、ユーザーにさらに質問するように促すインタラクティブな要素を追加する必要があるかもしれません。最後に、中国語名「Qianwen」と英語名「Qwen」、および親会社とラボなど、重要な情報を見逃していないか確認します。回答が包括的で、ユーザーの期待に応えるものであることを確認する必要があります。
====================完全な応答====================

こんにちは！私は Qwen、Alibaba Group 傘下の Tongyi ラボによって独自に開発された超大規模言語モデルです。質問への回答、テキストの作成、論理的推論、コードの作成など、すべてユーザーに高品質の情報とサービスを提供することを目的としています。Qwen と呼んでください。何かお手伝いできることはありますか？

サンプルコード

import OpenAI from "openai";
import process from 'process';

// OpenAI クライアントを初期化します。
const openai = new OpenAI({
    apiKey: process.env.DASHSCOPE_API_KEY, // 環境変数から読み取ります
    // 以下はシンガポールリージョンの base_url です。バージニアリージョンのモデルを使用している場合は、base_url を https://dashscope-us.aliyuncs.com/compatible-mode/v1 に変更してください。
    // 構成はリージョンによって異なります。実際のリージョンに基づいてこれを変更してください。
    baseURL: 'https://dashscope-intl.aliyuncs.com/compatible-mode/v1'
});

let reasoningContent = '';
let answerContent = '';
let isAnswering = false;

async function main() {
    try {
        const messages = [{ role: 'user', content: 'あなたは誰ですか？' }];
        const stream = await openai.chat.completions.create({
            model: 'qwen-plus',
            messages,
            stream: true,
            enable_thinking: true
        });
        console.log('\n' + '='.repeat(20) + '思考プロセス' + '='.repeat(20) + '\n');

        for await (const chunk of stream) {
            if (!chunk.choices?.length) {
                console.log('\n使用量:');
                console.log(chunk.usage);
                continue;
            }

            const delta = chunk.choices[0].delta;
            
            // 思考コンテンツのみを収集します。
            if (delta.reasoning_content !== undefined && delta.reasoning_content !== null) {
                if (!isAnswering) {
                    process.stdout.write(delta.reasoning_content);
                }
                reasoningContent += delta.reasoning_content;
            }

            // コンテンツが受信されたら、応答を開始します。
            if (delta.content !== undefined && delta.content) {
                if (!isAnswering) {
                    console.log('\n' + '='.repeat(20) + '完全な応答' + '='.repeat(20) + '\n');
                    isAnswering = true;
                }
                process.stdout.write(delta.content);
                answerContent += delta.content;
            }
        }
    } catch (error) {
        console.error('エラー:', error);
    }
}

main();

応答

====================思考プロセス====================

ユーザーが「あなたは誰ですか？」と尋ねたので、自分のアイデンティティについて答える必要があります。まず、私が Alibaba Cloud によって開発された超大規模言語モデルである Qwen であることを明確に述べるべきです。次に、質問への回答、テキストの作成、論理的推論などの主な機能について言及できます。また、ユーザーが異なる言語でのリクエストを処理できることを知るように、中国語や英語を含む多言語サポートを強調する必要があります。さらに、学習、仕事、日常生活の支援など、私のアプリケーションシナリオを説明する必要があるかもしれません。しかし、ユーザーの質問は非常に直接的なので、あまり詳細を提供する必要はなく、簡潔で明確に保つ方が良いでしょう。同時に、フレンドリーなトーンを確保し、ユーザーにさらなる質問を促す必要があります。バージョンや最新の更新など、重要な情報を見逃していないか確認しますが、ユーザーはおそらくそのレベルの詳細を必要としていません。最後に、回答が正確でエラーがないことを確認します。
====================完全な応答====================

私は Qwen、Alibaba Group 傘下の Tongyi ラボによって独自に開発された超大規模言語モデルです。質問への回答、テキストの作成、論理的推論、プログラミングなど、さまざまなタスクを処理でき、中国語や英語を含む複数の言語をサポートしています。ご質問やお手伝いが必要な場合は、お気軽にお知らせください！

サンプルコード

# ======= 重要 =======
# 以下はシンガポールリージョンの base_url です。北京リージョンのモデルを使用している場合は、base_url を https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions に置き換えてください
# バージニアリージョンのモデルを使用している場合は、base_url を https://dashscope-us.aliyuncs.com/compatible-mode/v1/chat/completions に置き換えてください
# === 実行前にこのコメントを削除してください ===
curl -X POST https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "qwen-plus",
    "messages": [
        {
            "role": "user", 
            "content": "あなたは誰ですか？"
        }
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    },
    "enable_thinking": true
}'

応答

data: {"choices":[{"delta":{"content":null,"role":"assistant","reasoning_content":""},"index":0,"logprobs":null,"finish_reason":null}],"object":"chat.completion.chunk","usage":null,"created":1745485391,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-e2edaf2c-8aaf-9e54-90e2-b21dd5045503"}

.....

data: {"choices":[{"finish_reason":"stop","delta":{"content":"","reasoning_content":null},"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1745485391,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-e2edaf2c-8aaf-9e54-90e2-b21dd5045503"}

data: {"choices":[],"object":"chat.completion.chunk","usage":{"prompt_tokens":10,"completion_tokens":360,"total_tokens":370},"created":1745485391,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-e2edaf2c-8aaf-9e54-90e2-b21dd5045503"}

data: [DONE]

コード例

import os
from dashscope import Generation
import dashscope

# エンドポイント URL はリージョンによって異なります。実際のリージョンに基づいてこれを更新してください。
dashscope.base_http_api_url = "https://dashscope-intl.aliyuncs.com/api/v1"

messages = [{"role": "user", "content": "あなたは誰ですか？"}]

completion = Generation.call(
    # 環境変数を設定していない場合は、次の行を Alibaba Cloud Model Studio API キーに置き換えます：api_key = "sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    model="qwen-plus",
    messages=messages,
    result_format="message",
    enable_thinking=True,
    stream=True,
    incremental_output=True,
)

# 完全な思考プロセスを保存します。
reasoning_content = ""
# 完全な応答を保存します。
answer_content = ""
# モデルが思考を終えて応答を開始したかどうかを追跡します。
is_answering = False

print("=" * 20 + "思考プロセス" + "=" * 20)

for chunk in completion:
    # 思考コンテンツと応答コンテンツの両方が空の場合はスキップします。
    if (
        chunk.output.choices[0].message.content == ""
        and chunk.output.choices[0].message.reasoning_content == ""
    ):
        pass
    else:
        # このチャンクに思考コンテンツのみが含まれている場合。
        if (
            chunk.output.choices[0].message.reasoning_content != ""
            and chunk.output.choices[0].message.content == ""
        ):
            print(chunk.output.choices[0].message.reasoning_content, end="", flush=True)
            reasoning_content += chunk.output.choices[0].message.reasoning_content
        # このチャンクに応答コンテンツが含まれている場合。
        elif chunk.output.choices[0].message.content != "":
            if not is_answering:
                print("\n" + "=" * 20 + "完全な応答" + "=" * 20)
                is_answering = True
            print(chunk.output.choices[0].message.content, end="", flush=True)
            answer_content += chunk.output.choices[0].message.content

# 完全な思考プロセスと完全な応答を印刷するには、次の行のコメントを解除して実行します。
# print("=" * 20 + "完全な思考プロセス" + "=" * 20 + "\n")
# print(f"{reasoning_content}")
# print("=" * 20 + "完全な応答" + "=" * 20 + "\n")
# print(f"{answer_content}")

応答

====================思考プロセス====================
ユーザーが「あなたは誰ですか？」と尋ねました。この質問に答える必要があります。まず、自分のアイデンティティを明確にする必要があります：私は Alibaba Cloud によって開発された大規模言語モデルである Qwen です。次に、質問への回答、テキストの生成、論理的推論などの能力と目的を説明する必要があります。また、役立つアシスタントであることが目標であることを強調する必要があります。

会話のトーンを保ち、専門用語や複雑な文構造を避けるべきです。「こんにちは〜」のようなフレンドリーな表現を追加すると、会話がより自然に感じられます。また、開発者、主な機能、ユースケースなど、すべてのキーポイントが正確にカバーされていることを確認する必要があります。

特定のアプリケーションや技術的な詳細に関するフォローアップの質問を予測し、「日常的な質問でも専門的なトピックでも、最善を尽くしてお手伝いします」のようなオープンエンドのプロンプトを含めることで、さらなる対話を促します。

最後に、応答がスムーズに流れ、繰り返しや冗長性を避け、フレンドリーさとプロフェッショナリズムのバランスを取り、ユーザーがサポートされていると感じ、自信を持てるように確認します。
====================完全な応答====================
こんにちは〜 私は Alibaba Cloud によって開発された大規模言語モデルである Qwen です。質問への回答、テキストの作成、論理的推論、コードの作成など、あなたをサポートし、支援するためにすべてを行います。日常的な質問でも専門的なトピックでも、最善を尽くしてお手伝いします。何かお手伝いできることはありますか？

コード例

// dashscope SDK バージョン >= 2.19.4
import java.util.Arrays;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import io.reactivex.Flowable;
import java.lang.System;
import com.alibaba.dashscope.utils.Constants;

public class Main {
    static {
        // これはシンガポールリージョンのベース URL です。バージニアリージョンを使用する場合は、ベース URL を https://dashscope-us.aliyuncs.com/api/v1 に変更してください
        // エンドポイント URL はリージョンによって異なります。実際のリージョンに基づいてこれを更新してください。
        Constants.baseHttpApiUrl="https://dashscope-intl.aliyuncs.com/api/v1";
    }
    private static final Logger logger = LoggerFactory.getLogger(Main.class);
    private static StringBuilder reasoningContent = new StringBuilder();
    private static StringBuilder finalContent = new StringBuilder();
    private static boolean isFirstPrint = true;

    private static void handleGenerationResult(GenerationResult message) {
        String reasoning = message.getOutput().getChoices().get(0).getMessage().getReasoningContent();
        String content = message.getOutput().getChoices().get(0).getMessage().getContent();

        if (!reasoning.isEmpty()) {
            reasoningContent.append(reasoning);
            if (isFirstPrint) {
                System.out.println("====================思考プロセス====================");
                isFirstPrint = false;
            }
            System.out.print(reasoning);
        }

        if (!content.isEmpty()) {
            finalContent.append(content);
            if (!isFirstPrint) {
                System.out.println("\n====================完全な応答====================");
                isFirstPrint = true;
            }
            System.out.print(content);
        }
    }
    private static GenerationParam buildGenerationParam(Message userMsg) {
        return GenerationParam.builder()
                 // API キーはリージョンによって異なります。API キーを取得してください：https://www.alibabacloud.com/help/ja/model-studio/get-api-key
                // 環境変数を設定していない場合は、次の行を Alibaba Cloud Model Studio API キーに置き換えます：.apiKey("sk-xxx")
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                .model("qwen-plus")
                .enableThinking(true)
                .incrementalOutput(true)
                .resultFormat("message")
                .messages(Arrays.asList(userMsg))
                .build();
    }
    public static void streamCallWithMessage(Generation gen, Message userMsg)
            throws NoApiKeyException, ApiException, InputRequiredException {
        GenerationParam param = buildGenerationParam(userMsg);
        Flowable<GenerationResult> result = gen.streamCall(param);
        result.blockingForEach(message -> handleGenerationResult(message));
    }

    public static void main(String[] args) {
        try {
            Generation gen = new Generation();
            Message userMsg = Message.builder().role(Role.USER.getValue()).content("あなたは誰ですか？").build();
            streamCallWithMessage(gen, userMsg);
//             最終結果を印刷します。
//            if (reasoningContent.length() > 0) {
//                System.out.println("\n====================完全な応答====================");
//                System.out.println(finalContent.toString());
//            }
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            logger.error("An exception occurred: {}", e.getMessage());
        }
        System.exit(0);
    }
}

応答

====================思考プロセス====================
ユーザーが「あなたは誰ですか？」と尋ねました。定義された役割に基づいて応答する必要があります。まず、私は Alibaba Group 傘下の大規模言語モデルである Qwen です。会話のトーンを保ち、シンプルにしてください。

ユーザーは私に初めて会ったか、私のアイデンティティを確認しているのかもしれません。まず、私が誰であるかを明確に述べ、次に質問への回答、テキストの作成、コーディングなどの機能を簡単に説明します。多言語サポートについても言及し、ユーザーがさまざまな言語を扱えることを知らせます。

ガイドラインに従い、人間らしいトーンを維持します。親しみやすい表現や絵文字を使用して、親しみやすく聞こえるようにします。どのように手伝えるかを尋ねることで、さらなる対話を促します。

専門用語や長い説明は避けます。多言語サポートやコア機能など、すべてのキーポイントが含まれていることを確認します。応答が会話的で簡潔であることを確認します。
====================完全な応答====================
こんにちは！私は Alibaba Group 傘下の大規模言語モデルである Qwen です。質問への回答、テキストの作成（物語、公式文書、メール、プレイブックなど）、論理的推論、コードの作成、意見の表明、ゲームのプレイなどができます。中国語、英語、ドイツ語、フランス語、スペイン語など、多くの言語に堪能です。どのようにお手伝いできますか？

コード例

# ======= 重要事項 =======
# API キーはリージョンによって異なります。API キーを取得してください：https://www.alibabacloud.com/help/ja/model-studio/get-api-key
# 以下の URL はシンガポールリージョン用です。北京リージョンを使用する場合は、URL を https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation に置き換えてください
# バージニアリージョンを使用する場合は、ベース URL を https://dashscope-us.aliyuncs.com/api/v1/services/aigc/text-generation/generation に置き換えてください
# === 実行前にこのコメントを削除してください ===
curl -X POST "https://dashscope-intl.aliyuncs.com/api/v1/services/aigc/text-generation/generation" \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-H "X-DashScope-SSE: enable" \
-d '{
    "model": "qwen-plus",
    "input":{
        "messages":[      
            {
                "role": "user",
                "content": "あなたは誰ですか？"
            }
        ]
    },
    "parameters":{
        "enable_thinking": true,
        "incremental_output": true,
        "result_format": "message"
    }
}'

応答

id:1
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"Hmm","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":14,"input_tokens":11,"output_tokens":3},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:2
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":",","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":15,"input_tokens":11,"output_tokens":4},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:3
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"user","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":16,"input_tokens":11,"output_tokens":5},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:4
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"asks","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":17,"input_tokens":11,"output_tokens":6},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:5
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"“","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":18,"input_tokens":11,"output_tokens":7},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}
......

id:358
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"help","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":373,"input_tokens":11,"output_tokens":362},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:359
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":",","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":374,"input_tokens":11,"output_tokens":363},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:360
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"Welcome","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":375,"input_tokens":11,"output_tokens":364},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:361
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"at any time","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":376,"input_tokens":11,"output_tokens":365},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:362
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"let me know","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":377,"input_tokens":11,"output_tokens":366},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:363
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"!","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":378,"input_tokens":11,"output_tokens":367},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

id:364
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"","role":"assistant"},"finish_reason":"stop"}]},"usage":{"total_tokens":378,"input_tokens":11,"output_tokens":367},"request_id":"25d58c29-c47b-9e8d-a0f1-d6c309ec58b1"}

サンプルコード

from openai import OpenAI
import os

# OpenAI クライアントを初期化
client = OpenAI(
    # 環境変数を設定していない場合は、この行を Alibaba Cloud DashScope API キーに置き換えてください：api_key="sk-xxx"
    # API キーはリージョンによって異なります。API キーを取得するには、https://www.alibabacloud.com/help/ja/model-studio/get-api-key にアクセスしてください
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # 構成はリージョンによって異なります。リージョンに基づいてこの URL を更新してください
    base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "あなたは誰ですか"}]

completion = client.chat.completions.create(
    model="qwen-plus",
    messages=messages,
    # enable_thinking を True に設定して思考をオンにします。thinking_budget を使用して思考の最大トークン数を設定します。
    extra_body={
        "enable_thinking": True,
        "thinking_budget": 50
        },
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # 完全な思考ステップ
answer_content = ""  # 完全な応答
is_answering = False  # 応答フェーズが開始したかどうか
print("\n" + "=" * 20 + "思考ステップ" + "=" * 20 + "\n")

for chunk in completion:
    if not chunk.choices:
        print("\n使用量:")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # 思考コンテンツのみを収集
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # コンテンツが表示されたら応答を開始
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + "完全な応答" + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

応答

====================思考ステップ====================

ユーザーが「あなたは誰ですか？」と尋ねました。明確でフレンドリーな答えを出す必要があります。まず、自分のアイデンティティを述べるべきです—私は Alibaba Group 傘下の Tongyi Lab によって開発された大規模言語モデルである Qwen です。次に、質問への回答などの主な能力を説明する必要があります
====================完全な応答====================

私は Alibaba Group 傘下の Tongyi Lab によって開発された大規模言語モデルである Qwen です。質問への回答、テキストの作成、論理的推論、コーディングができます。私の目標は、ユーザーを助け、サポートすることです。今日はどのようにお手伝いできますか？

サンプルコード

import OpenAI from "openai";
import process from 'process';

// OpenAI クライアントを初期化
const openai = new OpenAI({
    apiKey: process.env.DASHSCOPE_API_KEY, // 環境変数から読み込む
    // 構成はリージョンによって異なります。リージョンに基づいてこの URL を更新してください
    baseURL: 'https://dashscope-intl.aliyuncs.com/compatible-mode/v1'
});

let reasoningContent = '';
let answerContent = '';
let isAnswering = false;


async function main() {
    try {
        const messages = [{ role: 'user', content: 'あなたは誰ですか' }];
        const stream = await openai.chat.completions.create({
            model: 'qwen-plus',
            messages,
            stream: true,
            // enable_thinking を True に設定して思考をオンにします。thinking_budget を使用して思考の最大トークン数を設定します。
            enable_thinking: true,
            thinking_budget: 50
        });
        console.log('\n' + '='.repeat(20) + '思考ステップ' + '='.repeat(20) + '\n');

        for await (const chunk of stream) {
            if (!chunk.choices?.length) {
                console.log('\n使用量:');
                console.log(chunk.usage);
                continue;
            }

            const delta = chunk.choices[0].delta;
            
            // 思考コンテンツのみを収集
            if (delta.reasoning_content !== undefined && delta.reasoning_content !== null) {
                if (!isAnswering) {
                    process.stdout.write(delta.reasoning_content);
                }
                reasoningContent += delta.reasoning_content;
            }

            // コンテンツが表示されたら応答を開始
            if (delta.content !== undefined && delta.content) {
                if (!isAnswering) {
                    console.log('\n' + '='.repeat(20) + '完全な応答' + '='.repeat(20) + '\n');
                    isAnswering = true;
                }
                process.stdout.write(delta.content);
                answerContent += delta.content;
            }
        }
    } catch (error) {
        console.error('エラー:', error);
    }
}

main();

応答

====================思考ステップ====================

ユーザーが「あなたは誰ですか？」と尋ねました。明確で正確な答えを出す必要があります。まず、自己紹介をすべきです—私は Alibaba Group 傘下の Tongyi Lab によって開発された大規模言語モデルである Qwen です。次に、質問への回答などの主な能力を説明する必要があります
====================完全な応答====================

私は Alibaba Group 傘下の Tongyi Lab によって独自に開発された大規模言語モデルである Qwen です。質問への回答、テキストの作成、論理的推論、コーディングができます。ご質問やお手伝いが必要な場合は、いつでもお気軽にお尋ねください！

サンプルコード

# ======= 重要なお知らせ =======
# この例ではシンガポールのベース URL を使用しています。北京リージョンのモデルの場合は、https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions を使用してください
# 米国バージニアリージョンのモデルの場合は、https://dashscope-us.aliyuncs.com/compatible-mode/v1/chat/completions を使用してください
# === 実行前にこのコメントを削除してください ===
curl -X POST https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "qwen-plus",
    "messages": [
        {
            "role": "user", 
            "content": "あなたは誰ですか"
        }
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    },
    "enable_thinking": true,
    "thinking_budget": 50
}'

応答

data: {"choices":[{"delta":{"content":null,"role":"assistant","reasoning_content":""},"index":0,"logprobs":null,"finish_reason":null}],"object":"chat.completion.chunk","usage":null,"created":1745485391,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-e2edaf2c-8aaf-9e54-90e2-b21dd5045503"}

.....

data: {"choices":[{"finish_reason":"stop","delta":{"content":"","reasoning_content":null},"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1745485391,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-e2edaf2c-8aaf-9e54-90e2-b21dd5045503"}

data: {"choices":[],"object":"chat.completion.chunk","usage":{"prompt_tokens":10,"completion_tokens":360,"total_tokens":370},"created":1745485391,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-e2edaf2c-8aaf-9e54-90e2-b21dd5045503"}

data: [DONE]

サンプルコード

import os
from dashscope import Generation
import dashscope

# ベース URL はリージョンによって異なります。リージョンに基づいてこの設定を更新してください
dashscope.base_http_api_url = "https://dashscope-intl.aliyuncs.com/api/v1/"

messages = [{"role": "user", "content": "あなたは誰ですか？"}]

completion = Generation.call(
    # 環境変数を設定していない場合は、次の行を Alibaba Cloud DashScope API キーに置き換えてください：api_key = "sk-xxx"
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    model="qwen-plus",
    messages=messages,
    result_format="message",
    enable_thinking=True,
    # 思考の最大トークン数を設定
    thinking_budget=50,
    stream=True,
    incremental_output=True,
)

# 完全な思考ステップを保存
reasoning_content = ""
# 完全な応答を保存
answer_content = ""
# 思考が終了し、応答が開始したかどうかを追跡
is_answering = False

print("=" * 20 + "思考ステップ" + "=" * 20)

for chunk in completion:
    # 空のチャンクをスキップ
    if (
        chunk.output.choices[0].message.content == ""
        and chunk.output.choices[0].message.reasoning_content == ""
    ):
        pass
    else:
        # 思考ステップを処理
        if (
            chunk.output.choices[0].message.reasoning_content != ""
            and chunk.output.choices[0].message.content == ""
        ):
            print(chunk.output.choices[0].message.reasoning_content, end="", flush=True)
            reasoning_content += chunk.output.choices[0].message.reasoning_content
        # 最終応答を処理
        elif chunk.output.choices[0].message.content != "":
            if not is_answering:
                print("\n" + "=" * 20 + "完全な応答" + "=" * 20)
                is_answering = True
            print(chunk.output.choices[0].message.content, end="", flush=True)
            answer_content += chunk.output.choices[0].message.content

# 次の行のコメントを解除して、完全な思考ステップと完全な応答を印刷します
# print("=" * 20 + "完全な思考ステップ" + "=" * 20 + "\n")
# print(f"{reasoning_content}")
# print("=" * 20 + "完全な応答" + "=" * 20 + "\n")
# print(f"{answer_content}")

応答

====================思考ステップ====================
ユーザーが「あなたは誰ですか？」と尋ねました。明確でフレンドリーな答えを出す必要があります。まず、自己紹介をすべきです—私は Alibaba Group 傘下の Tongyi Lab によって開発された大規模言語モデルである Qwen です。次に、質問への回答などの主な能力を説明する必要があります
====================完全な応答====================
私は Alibaba Group 傘下の Tongyi Lab によって独自に開発された大規模言語モデルである Qwen です。質問への回答、テキストの作成、論理的推論、コーディングができます。私の目標は、ユーザーに包括的で正確かつ役立つ情報とサポートを提供することです。今日はどのようにお手伝いできますか？

サンプルコード

// dashscope SDK バージョン >= 2.19.4
import java.util.Arrays;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import io.reactivex.Flowable;
import java.lang.System;
import com.alibaba.dashscope.utils.Constants;

public class Main {
    static {
        // ベース URL はリージョンによって異なります。リージョンに基づいてこの設定を更新してください
        Constants.baseHttpApiUrl="https://dashscope-intl.aliyuncs.com/api/v1";
    }
    private static final Logger logger = LoggerFactory.getLogger(Main.class);
    private static StringBuilder reasoningContent = new StringBuilder();
    private static StringBuilder finalContent = new StringBuilder();
    private static boolean isFirstPrint = true;

    private static void handleGenerationResult(GenerationResult message) {
        String reasoning = message.getOutput().getChoices().get(0).getMessage().getReasoningContent();
        String content = message.getOutput().getChoices().get(0).getMessage().getContent();

        if (!reasoning.isEmpty()) {
            reasoningContent.append(reasoning);
            if (isFirstPrint) {
                System.out.println("====================思考ステップ====================");
                isFirstPrint = false;
            }
            System.out.print(reasoning);
        }

        if (!content.isEmpty()) {
            finalContent.append(content);
            if (!isFirstPrint) {
                System.out.println("\n====================完全な応答====================");
                isFirstPrint = true;
            }
            System.out.print(content);
        }
    }
    private static GenerationParam buildGenerationParam(Message userMsg) {
        return GenerationParam.builder()
                // 環境変数を設定していない場合は、次の行を Alibaba Cloud DashScope API キーに置き換えてください：.apiKey("sk-xxx")
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                .model("qwen-plus")
                .enableThinking(true)
                .thinkingBudget(50)
                .incrementalOutput(true)
                .resultFormat("message")
                .messages(Arrays.asList(userMsg))
                .build();
    }
    public static void streamCallWithMessage(Generation gen, Message userMsg)
            throws NoApiKeyException, ApiException, InputRequiredException {
        GenerationParam param = buildGenerationParam(userMsg);
        Flowable<GenerationResult> result = gen.streamCall(param);
        result.blockingForEach(message -> handleGenerationResult(message));
    }

    public static void main(String[] args) {
        try {
            Generation gen = new Generation();
            Message userMsg = Message.builder().role(Role.USER.getValue()).content("あなたは誰ですか？").build();
            streamCallWithMessage(gen, userMsg);
//             最終結果を印刷
//            if (reasoningContent.length() > 0) {
//                System.out.println("\n====================完全な応答====================");
//                System.out.println(finalContent.toString());
//            }
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            logger.error("An exception occurred: {}", e.getMessage());
        }
        System.exit(0);
    }
}

====================思考ステップ====================
ユーザーが「あなたは誰ですか？」と尋ねました。明確でフレンドリーな答えを出す必要があります。まず、自己紹介をすべきです—私は Alibaba Group 傘下の Tongyi Lab によって開発された大規模言語モデルである Qwen です。次に、質問への回答などの主な能力を説明する必要があります
====================完全な応答====================
私は Alibaba Group 傘下の Tongyi Lab によって独自に開発された大規模言語モデルである Qwen です。質問への回答、テキストの作成、論理的推論、コーディングができます。私の目標は、ユーザーに包括的で正確かつ役立つ情報とサポートを提供することです。今日はどのようにお手伝いできますか？

サンプルコード

# ======= 重要なお知らせ =======
# API キーはリージョンによって異なります。API キーを取得するには、https://www.alibabacloud.com/help/ja/model-studio/get-api-key にアクセスしてください
# ベース URL はリージョンによって異なります。リージョンに基づいてこの設定を更新してください
# === 実行前にこのコメントを削除してください ===
curl -X POST "https://dashscope-intl.aliyuncs.com/api/v1/services/aigc/text-generation/generation" \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-H "X-DashScope-SSE: enable" \
-d '{
    "model": "qwen-plus",
    "input":{
        "messages":[      
            {
                "role": "user",
                "content": "あなたは誰ですか？"
            }
        ]
    },
    "parameters":{
        "enable_thinking": true,
        "thinking_budget": 50,
        "incremental_output": true,
        "result_format": "message"
    }
}'

応答

id:1
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"オーケー","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":14,"output_tokens":3,"input_tokens":11,"output_tokens_details":{"reasoning_tokens":1}},"request_id":"2ce91085-3602-9c32-9c8b-fe3d583a2c38"}

id:2
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":",","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":15,"output_tokens":4,"input_tokens":11,"output_tokens_details":{"reasoning_tokens":2}},"request_id":"2ce91085-3602-9c32-9c8b-fe3d583a2c38"}

......

id:133
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"!","reasoning_content":"","role":"assistant"},"finish_reason":"null"}]},"usage":{"total_tokens":149,"output_tokens":138,"input_tokens":11,"output_tokens_details":{"reasoning_tokens":50}},"request_id":"2ce91085-3602-9c32-9c8b-fe3d583a2c38"}

id:134
event:result
:HTTP_STATUS/200
data:{"output":{"choices":[{"message":{"content":"","reasoning_content":"","role":"assistant"},"finish_reason":"stop"}]},"usage":{"total_tokens":149,"output_tokens":138,"input_tokens":11,"output_tokens_details":{"reasoning_tokens":50}},"request_id":"2ce91085-3602-9c32-9c8b-fe3d583a2c38"}