Alibaba Cloud Model Studio:Percakapan multi-putaran

Python

Kode contoh menyediakan contoh tenaga penjual toko ponsel yang melakukan percakapan multi-putaran dengan pelanggan untuk menentukan maksud pembelian mereka lalu mengakhiri sesi.

import os
from dashscope import Generation
import dashscope
# URL wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja aktual Anda. URL bervariasi berdasarkan wilayah.

dashscope.base_http_api_url = 'https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1'

def get_response(messages):
    response = Generation.call(
        # Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key
        # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan Kunci API Studio Model Anda: api_key="sk-xxx",
        api_key=os.getenv("DASHSCOPE_API_KEY"),
        # Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models
        model="qwen-plus",
        messages=messages,
        result_format="message",
    )
    return response

messages = [
    {
        "role": "system",
        "content": """Anda adalah tenaga penjual di toko ponsel Bailian. Tugas Anda adalah merekomendasikan ponsel kepada pengguna. Ponsel memiliki dua parameter: ukuran layar (termasuk 6,1 inci, 6,5 inci, dan 6,7 inci) dan resolusi (termasuk 2K dan 4K).
        Anda hanya boleh menanyakan satu parameter kepada pengguna dalam satu waktu. Jika pengguna tidak memberikan informasi lengkap, Anda perlu mengajukan pertanyaan lanjutan untuk mendapatkan parameter yang hilang. Ketika semua parameter telah dikumpulkan, Anda harus mengatakan: Saya telah memahami maksud pembelian Anda. Mohon tunggu.""",
    }
]

assistant_output = "Selamat datang di toko ponsel Bailian. Ukuran layar seperti apa yang Anda cari?"
print(f"Output model: {assistant_output}\n")
while "Saya telah memahami maksud pembelian Anda" not in assistant_output:
    user_input = input("Silakan masukkan: ")
    # Tambahkan pertanyaan pengguna ke daftar messages
    messages.append({"role": "user", "content": user_input})
    assistant_output = get_response(messages).output.choices[0].message.content
    # Tambahkan respons model ke daftar messages
    messages.append({"role": "assistant", "content": assistant_output})
    print(f"Output model: {assistant_output}")
    print("\n")

Java

import java.util.ArrayList;
import java.util.List;
import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import java.util.Scanner;
import com.alibaba.dashscope.protocol.Protocol;

public class Main {
    public static GenerationParam createGenerationParam(List<Message> messages) {
        return GenerationParam.builder()
                // Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key
                // Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan Kunci API Studio Model Anda: .apiKey("sk-xxx")
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                // Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models
                .model("qwen-plus")
                .messages(messages)
                .resultFormat(GenerationParam.ResultFormat.MESSAGE)
                .build();
    }
    public static GenerationResult callGenerationWithMessages(GenerationParam param) throws ApiException, NoApiKeyException, InputRequiredException {
        // URL wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja aktual Anda. URL bervariasi berdasarkan wilayah.

        Generation gen = new Generation(Protocol.HTTP.getValue(), "https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1");
        return gen.call(param);
    }
    public static void main(String[] args) {
        try {
            List<Message> messages = new ArrayList<>();
            messages.add(createMessage(Role.SYSTEM, "Anda adalah asisten yang membantu."));
            for (int i = 0; i < 3;i++) {
                Scanner scanner = new Scanner(System.in);
                System.out.print("Silakan masukkan: ");
                String userInput = scanner.nextLine();
                if ("exit".equalsIgnoreCase(userInput)) {
                    break;
                }
                messages.add(createMessage(Role.USER, userInput));
                GenerationParam param = createGenerationParam(messages);
                GenerationResult result = callGenerationWithMessages(param);
                System.out.println("Output model: "+result.getOutput().getChoices().get(0).getMessage().getContent());
                messages.add(result.getOutput().getChoices().get(0).getMessage());
            }
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            e.printStackTrace();
        }
        System.exit(0);
    }
    private static Message createMessage(Role role, String content) {
        return Message.builder().role(role.getValue()).content(content).build();
    }
}

curl

# ======= Penting =======
# Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key

# === Hapus komentar ini sebelum eksekusi ===

curl -X POST https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1/services/aigc/text-generation/generation \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "qwen-plus",
    "input":{
        "messages":[
            {
                "role": "system",
                "content": "Anda adalah asisten yang membantu."
            },
            {
                "role": "user",
                "content": "Halo"
            },
            {
                "role": "assistant",
                "content": "Halo, saya Qwen."
            },
            {
                "role": "user",
                "content": "Apa yang bisa Anda lakukan?"
            }
        ]
    }
}'

Python

Kode contoh

from openai import OpenAI
import os

# Inisialisasi klien OpenAI
client = OpenAI(
    # Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key
    # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan Kunci API Studio Model Anda: api_key="sk-xxx"
    api_key = os.getenv("DASHSCOPE_API_KEY"),
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1"
)

messages = []
conversation_idx = 1
while True:
    reasoning_content = ""  # Definisikan proses berpikir lengkap
    answer_content = ""     # Definisikan respons lengkap
    is_answering = False   # Tentukan apakah akan mengakhiri proses berpikir dan mulai merespons
    print("="*20+f"Putaran Percakapan {conversation_idx}"+"="*20)
    conversation_idx += 1
    user_input = input("Masukkan pesan Anda (ketik 'exit' untuk mengakhiri): ")
    # Masukkan 'exit' untuk mengakhiri percakapan multi-putaran dan menghindari loop tak berujung
    if user_input.strip().lower() == "exit":
        print("Percakapan diakhiri.")
        break
    user_msg = {"role": "user", "content": user_input}
    messages.append(user_msg)
    # Buat permintaan chat completion
    completion = client.chat.completions.create(
        # Anda dapat mengganti ini dengan model pemikiran mendalam lain sesuai kebutuhan
        model="qwen-plus",
        messages=messages,
        extra_body={"enable_thinking": True},
        stream=True,
        # stream_options={
        #     "include_usage": True
        # }
    )
    print("\n" + "=" * 20 + "Proses Berpikir" + "=" * 20 + "\n")
    for chunk in completion:
        # Jika chunk.choices kosong, cetak penggunaan
        if not chunk.choices:
            print("\nPenggunaan:")
            print(chunk.usage)
        else:
            delta = chunk.choices[0].delta
            # Cetak proses berpikir
            if hasattr(delta, 'reasoning_content') and delta.reasoning_content != None:
                print(delta.reasoning_content, end='', flush=True)
                reasoning_content += delta.reasoning_content
            else:
                # Mulai merespons
                if delta.content != "" and is_answering is False:
                    print("\n" + "=" * 20 + "Respons Lengkap" + "=" * 20 + "\n")
                    is_answering = True
                # Cetak proses respons
                print(delta.content, end='', flush=True)
                answer_content += delta.content
    # Tambahkan konten respons model ke konteks
    messages.append({"role": "assistant", "content": answer_content})
    print("\n")

Node.js

Kode contoh

import OpenAI from "openai";
import process from 'process';
import readline from 'readline/promises';

// Inisialisasi antarmuka readline
const rl = readline.createInterface({
    input: process.stdin,
    output: process.stdout
});

// Inisialisasi klien openai
const openai = new OpenAI({
    // Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key
    apiKey: process.env.DASHSCOPE_API_KEY, // Baca dari variabel lingkungan
    baseURL: 'https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1'
});

let reasoningContent = '';
let answerContent = '';
let isAnswering = false;
let messages = [];
let conversationIdx = 1;

async function main() {
    while (true) {
        console.log("=".repeat(20) + `Putaran Percakapan ${conversationIdx}` + "=".repeat(20));
        conversationIdx++;

        // Baca input pengguna
        const userInput = await rl.question("Masukkan pesan Anda (ketik 'exit' untuk mengakhiri): ");
        // Masukkan 'exit' untuk mengakhiri percakapan multi-putaran dan menghindari loop tak berujung
        if (userInput.trim().toLowerCase() === "exit") {
            console.log("Percakapan diakhiri.");
            rl.close();
            break;
        }
        messages.push({ role: 'user', content: userInput });

        // Reset state
        reasoningContent = '';
        answerContent = '';
        isAnswering = false;

        try {
            const stream = await openai.chat.completions.create({
                // Anda dapat mengganti ini dengan model pemikiran mendalam lain sesuai kebutuhan
                model: 'qwen-plus',
                messages: messages,
                enable_thinking: true,
                stream: true,
                // stream_options:{
                //     include_usage: true
                // }
            });

            console.log("\n" + "=".repeat(20) + "Proses Berpikir" + "=".repeat(20) + "\n");

            for await (const chunk of stream) {
                if (!chunk.choices?.length) {
                    console.log('\nPenggunaan:');
                    console.log(chunk.usage);
                    continue;
                }

                const delta = chunk.choices[0].delta

                // Proses proses berpikir
                if (delta.reasoning_content) {
                    process.stdout.write(delta.reasoning_content);
                    reasoningContent += delta.reasoning_content;
                }

                // Proses respons formal
                if (delta.content) {
                    if (!isAnswering) {
                        console.log('\n' + "=".repeat(20) + "Respons Lengkap" + "=".repeat(20) + "\n");
                        isAnswering = true;
                    }
                    process.stdout.write(delta.content);
                    answerContent += delta.content;
                }
            }

            // Tambahkan respons lengkap ke riwayat pesan
            messages.push({ role: 'assistant', content: answerContent });
            console.log("\n");

        } catch (error) {
            console.error('Kesalahan:', error);
        }
    }
}

// Jalankan program
main().catch(console.error);

HTTP

Kode contoh

# ======= Penting =======

# Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key
# === Hapus komentar ini sebelum eksekusi ===

curl -X POST https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "qwen-plus",
    "messages": [
        {
            "role": "user",
            "content": "Halo"
        },
        {
            "role": "assistant",
            "content": "Halo! Senang bertemu Anda. Ada yang bisa saya bantu?"
        },
        {
            "role": "user",
            "content": "Siapa Anda?"
        }
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    },
    "enable_thinking": true
}'

Python

Kode contoh

import os
import dashscope
# URL wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja aktual Anda. URL bervariasi berdasarkan wilayah.

dashscope.base_http_api_url = "https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1/"

messages = []
conversation_idx = 1
while True:
    print("=" * 20 + f"Putaran Percakapan {conversation_idx}" + "=" * 20)
    conversation_idx += 1
    user_input = input("Masukkan pesan Anda (ketik 'exit' untuk mengakhiri): ")
    # Masukkan 'exit' untuk mengakhiri percakapan multi-putaran dan menghindari loop tak berujung
    if user_input.strip().lower() == "exit":
        print("Percakapan diakhiri.")
        break
    user_msg = {"role": "user", "content": user_input}
    messages.append(user_msg)
    response = dashscope.Generation.call(
        # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan Kunci API Studio Model Anda: api_key="sk-xxx",
        api_key=os.getenv('DASHSCOPE_API_KEY'),
         # Contoh ini menggunakan qwen-plus. Anda dapat menggantinya dengan model pemikiran mendalam lain sesuai kebutuhan
        model="qwen-plus",
        messages=messages,
        enable_thinking=True,
        result_format="message",
        stream=True,
        incremental_output=True
    )
    # Definisikan proses berpikir lengkap
    reasoning_content = ""
    # Definisikan respons lengkap
    answer_content = ""
    # Tentukan apakah akan mengakhiri proses berpikir dan mulai merespons
    is_answering = False
    print("=" * 20 + "Proses Berpikir" + "=" * 20)
    for chunk in response:
        # Jika proses berpikir dan respons keduanya kosong, abaikan
        if (chunk.output.choices[0].message.content == "" and
            chunk.output.choices[0].message.reasoning_content == ""):
            pass
        else:
            # Jika saat ini sedang dalam proses berpikir
            if (chunk.output.choices[0].message.reasoning_content != "" and
                chunk.output.choices[0].message.content == ""):
                print(chunk.output.choices[0].message.reasoning_content, end="",flush=True)
                reasoning_content += chunk.output.choices[0].message.reasoning_content
            # Jika saat ini sedang dalam respons
            elif chunk.output.choices[0].message.content != "":
                if not is_answering:
                    print("\n" + "=" * 20 + "Respons Lengkap" + "=" * 20)
                    is_answering = True
                print(chunk.output.choices[0].message.content, end="",flush=True)
                answer_content += chunk.output.choices[0].message.content
    # Tambahkan konten respons model ke konteks
    messages.append({"role": "assistant", "content": answer_content})
    print("\n")
    # Untuk mencetak proses berpikir lengkap dan respons lengkap, hapus komentar dan jalankan kode berikut
    # print("=" * 20 + "Proses Berpikir Lengkap" + "=" * 20 + "\n")
    # print(f"{reasoning_content}")
    # print("=" * 20 + "Respons Lengkap" + "=" * 20 + "\n")
    # print(f"{answer_content}")

Java

Kode contoh

// Versi SDK DashScope >= 2.19.4
import java.util.Arrays;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import io.reactivex.Flowable;
import java.lang.System;
import java.util.List;
import com.alibaba.dashscope.protocol.Protocol;

public class Main {
    private static final Logger logger = LoggerFactory.getLogger(Main.class);
    private static StringBuilder reasoningContent = new StringBuilder();
    private static StringBuilder finalContent = new StringBuilder();
    private static boolean isFirstPrint = true;

    private static void handleGenerationResult(GenerationResult message) {
        if (message != null && message.getOutput() != null
            && message.getOutput().getChoices() != null
            && !message.getOutput().getChoices().isEmpty()
            && message.getOutput().getChoices().get(0) != null
            && message.getOutput().getChoices().get(0).getMessage() != null) {

            String reasoning = message.getOutput().getChoices().get(0).getMessage().getReasoningContent();
            String content = message.getOutput().getChoices().get(0).getMessage().getContent();

            if (reasoning != null && !reasoning.isEmpty()) {
                reasoningContent.append(reasoning);
                if (isFirstPrint) {
                    System.out.println("====================Proses Berpikir====================");
                    isFirstPrint = false;
                }
                System.out.print(reasoning);
            }

            if (content != null && !content.isEmpty()) {
                finalContent.append(content);
                if (!isFirstPrint) {
                    System.out.println("\n====================Respons Lengkap====================");
                    isFirstPrint = true;
                }
                System.out.print(content);
            }
        }
    }

    private static GenerationParam buildGenerationParam(List<Message> messages) {
        return GenerationParam.builder()
                // Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan Kunci API Studio Model Anda: .apiKey("sk-xxx")
                .apiKey(System.getenv("DASHSCOPE_API_KEY"))
                // Contoh ini menggunakan qwen-plus. Anda dapat menggantinya dengan nama model lain sesuai kebutuhan.
                .model("qwen-plus")
                .enableThinking(true)
                .messages(messages)
                .incrementalOutput(true)
                .resultFormat("message")
                .build();
    }

    public static void streamCallWithMessage(Generation gen, List<Message> messages)
            throws NoApiKeyException, ApiException, InputRequiredException {
        GenerationParam param = buildGenerationParam(messages);
        Flowable<GenerationResult> result = gen.streamCall(param);
        result.doOnError(throwable -> logger.error("Terjadi kesalahan dalam pemrosesan aliran: {}", throwable.getMessage(), throwable))
              .blockingForEach(Main::handleGenerationResult);
    }

    public static void main(String[] args) {
        try {
            // URL wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja aktual Anda. URL bervariasi berdasarkan wilayah.

            Generation gen = new Generation(Protocol.HTTP.getValue(), "https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1");
            Message userMsg1 = Message.builder()
                    .role(Role.USER.getValue())
                    .content("Halo")
                    .build();
            Message assistantMsg = Message.builder()
                    .role(Role.ASSISTANT.getValue())
                    .content("Halo! Senang bertemu Anda. Ada yang bisa saya bantu?")
                    .build();
            Message userMsg2 = Message.builder()
                    .role(Role.USER.getValue())
                    .content("Siapa Anda")
                    .build();
            List<Message> messages = Arrays.asList(userMsg1, assistantMsg, userMsg2);
            streamCallWithMessage(gen, messages);
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            logger.error("Terjadi exception: {}", e.getMessage(), e);
        } catch (Exception e) {
            logger.error("Terjadi kesalahan tak terduga: {}", e.getMessage(), e);
        } finally {
            // Pastikan program keluar secara normal
            System.exit(0);
        }
    }
}

HTTP

Kode contoh

# ======= Penting =======
# Kunci API bervariasi berdasarkan wilayah. Untuk mendapatkan kunci API, lihat https://www.alibabacloud.com/help/en/model-studio/get-api-key

# === Hapus komentar ini sebelum eksekusi ===
curl -X POST "https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/api/v1/services/aigc/text-generation/generation" \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-H "X-DashScope-SSE: enable" \
-d '{
    "model": "qwen-plus",
    "input":{
        "messages":[
            {
                "role": "user",
                "content": "Halo"
            },
            {
                "role": "assistant",
                "content": "Halo! Senang bertemu Anda. Ada yang bisa saya bantu?"
            },
            {
                "role": "user",
                "content": "Siapa Anda?"
            }
        ]
    },
    "parameters":{
        "enable_thinking": true,
        "incremental_output": true,
        "result_format": "message"
    }
}'