Alibaba Cloud Model Studio:GLM-ZHIPU

Python

Kode contoh

from openai import OpenAI
import os

# Inisialisasi client OpenAI
client = OpenAI(
    # Jika variabel lingkungan tidak disetel, ganti "sk-xxx" dengan Kunci API Alibaba Cloud Model Studio Anda.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja Bailian Anda. URL berbeda-beda tergantung wilayah.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

messages = [{"role": "user", "content": "Who are you?"}]
completion = client.chat.completions.create(
    model="ZHIPU/GLM-5.3",
    messages=messages,
    # Aktifkan mode berpikir dengan mengatur enable_thinking di extra_body.
    # reasoning_effort mengontrol upaya penalaran. Nilai opsional: max (default), high, low.
    extra_body={"enable_thinking": True, "reasoning_effort": "max"},
    stream=True,
    stream_options={
        "include_usage": True
    },
)

reasoning_content = ""  # Proses penalaran lengkap
answer_content = ""  # Respons lengkap
is_answering = False  # Melacak apakah model sedang dalam fase menjawab
print("\n" + "=" * 20 + " Proses Penalaran " + "=" * 20 + "\n")

for chunk in completion:
    if not chunk.choices:
        print("\n" + "=" * 20 + " Penggunaan Token " + "=" * 20 + "\n")
        print(chunk.usage)
        continue

    delta = chunk.choices[0].delta

    # Kumpulkan hanya konten penalaran
    if hasattr(delta, "reasoning_content") and delta.reasoning_content is not None:
        if not is_answering:
            print(delta.reasoning_content, end="", flush=True)
        reasoning_content += delta.reasoning_content

    # Saat konten diterima, mulai menghasilkan respons
    if hasattr(delta, "content") and delta.content:
        if not is_answering:
            print("\n" + "=" * 20 + " Respons Lengkap " + "=" * 20 + "\n")
            is_answering = True
        print(delta.content, end="", flush=True)
        answer_content += delta.content

Respons

==================== Proses Penalaran ====================

Mari saya pertimbangkan secara cermat pertanyaan pengguna. Pertanyaan ini tampak sederhana, tetapi sebenarnya cukup mendalam.

Dari perspektif linguistik, pengguna menggunakan bahasa Inggris, yang berarti saya harus merespons dalam bahasa Inggris. Ini adalah pertanyaan perkenalan diri dasar, tetapi mungkin memiliki beberapa lapisan makna.

Pertama, saya perlu memastikan bahwa sebagai model bahasa, saya harus menyatakan identitas dan sifat saya secara jujur. Saya bukan manusia, juga tidak memiliki emosi atau kesadaran sejati. Saya adalah asisten AI yang dilatih dengan teknologi pembelajaran mendalam. Ini adalah fakta dasar.

Kedua, mempertimbangkan kebutuhan potensial pengguna, mereka mungkin ingin tahu:
1. Layanan apa saja yang dapat saya berikan?
2. Apa bidang keahlian saya?
3. Apa keterbatasan saya?
4. Bagaimana mereka dapat berinteraksi dengan saya secara lebih efektif?

Dalam jawaban saya, saya harus menunjukkan sikap ramah dan terbuka sekaligus menjaga profesionalisme dan akurasi. Saya harus menyatakan bidang keahlian utama saya, seperti tanya jawab pengetahuan, bantuan penulisan, dan dukungan kreatif, sekaligus secara jujur menunjukkan keterbatasan saya, seperti kurangnya pengalaman emosional nyata.

Selain itu, agar jawaban lebih lengkap, saya juga harus menunjukkan sikap positif dan kemauan membantu pengguna menyelesaikan masalah. Saya dapat mengarahkan pengguna untuk mengajukan pertanyaan yang lebih spesifik guna menunjukkan kemampuan saya secara lebih baik.

Mengingat ini adalah pembuka percakapan terbuka, jawaban harus ringkas dan jelas, namun berisi informasi yang cukup untuk memberi pengguna pemahaman yang jelas tentang situasi dasar saya serta meletakkan fondasi yang baik untuk percakapan selanjutnya.

Terakhir, nada harus tetap rendah hati dan profesional, tidak terlalu teknis maupun terlalu santai, agar pengguna merasa nyaman dan alami.
==================== Respons Lengkap ====================

Saya adalah model bahasa besar GLM yang dilatih oleh ZHIPU AI, dirancang untuk memberikan informasi kepada pengguna dan membantu menyelesaikan masalah. Saya dirancang untuk memahami dan menghasilkan bahasa manusia, serta dapat menjawab pertanyaan, memberikan penjelasan, atau berpartisipasi dalam diskusi mengenai berbagai topik.

Saya tidak menyimpan data pribadi Anda, dan percakapan kita bersifat anonim. Apakah ada topik yang bisa saya bantu Anda pahami atau jelajahi?
==================== Penggunaan Token ====================

CompletionUsage(completion_tokens=344, prompt_tokens=7, total_tokens=351, completion_tokens_details=None, prompt_tokens_details=None)

Node.js

Kode contoh

import OpenAI from "openai";
import process from 'process';

// Inisialisasi client OpenAI
const openai = new OpenAI({
    // Jika variabel lingkungan tidak disetel, ganti "sk-xxx" dengan Kunci API Alibaba Cloud Model Studio Anda.
    apiKey: process.env.DASHSCOPE_API_KEY,
    // Wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja Bailian Anda. URL berbeda-beda tergantung wilayah.
    baseURL: 'https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1'
});

let reasoningContent = ''; // Proses penalaran lengkap
let answerContent = ''; // Respons lengkap
let isAnswering = false; // Melacak apakah model sedang dalam fase menjawab

async function main() {
    try {
        const messages = [{ role: 'user', content: 'Who are you?' }];

        const stream = await openai.chat.completions.create({
            model: 'ZHIPU/GLM-5.3',
            messages,
            // Catatan: Di SDK Node.js, parameter non-standar seperti enable_thinking diteruskan sebagai properti tingkat atas, bukan di dalam extra_body.
            enable_thinking: true,
            // reasoning_effort mengontrol upaya penalaran. Nilai opsional: max (default), high, low.
            reasoning_effort: 'max',
            stream: true,
            stream_options: {
                include_usage: true
            },
        });

        console.log('\n' + '='.repeat(20) + ' Proses Penalaran ' + '='.repeat(20) + '\n');

        for await (const chunk of stream) {
            if (!chunk.choices?.length) {
                console.log('\n' + '='.repeat(20) + ' Penggunaan Token ' + '='.repeat(20) + '\n');
                console.log(chunk.usage);
                continue;
            }

            const delta = chunk.choices[0].delta;

            // Kumpulkan hanya konten penalaran
            if (delta.reasoning_content !== undefined && delta.reasoning_content !== null) {
                if (!isAnswering) {
                    process.stdout.write(delta.reasoning_content);
                }
                reasoningContent += delta.reasoning_content;
            }

            // Saat konten diterima, mulai menghasilkan respons
            if (delta.content !== undefined && delta.content) {
                if (!isAnswering) {
                    console.log('\n' + '='.repeat(20) + ' Respons Lengkap ' + '='.repeat(20) + '\n');
                    isAnswering = true;
                }
                process.stdout.write(delta.content);
                answerContent += delta.content;
            }
        }
    } catch (error) {
        console.error('Error:', error);
    }
}

main();

Respons

==================== Proses Penalaran ====================

Mari saya pertimbangkan secara cermat pertanyaan pengguna, "Siapa kamu?" Ini memerlukan analisis dan respons dari berbagai perspektif.

Pertama, ini adalah pertanyaan identitas dasar. Sebagai model bahasa besar GLM, saya perlu menyatakan identitas saya secara akurat. Saya harus dengan jelas menyatakan bahwa saya adalah asisten AI yang dikembangkan oleh ZHIPU AI.

Kedua, saya perlu mempertimbangkan niat pengguna yang mungkin. Mereka mungkin pengguna baru yang ingin memahami fungsi dasar, atau mereka mungkin ingin memastikan apakah saya dapat memberikan bantuan tertentu, atau mereka mungkin hanya menguji gaya respons saya. Oleh karena itu, saya perlu memberikan jawaban yang terbuka dan ramah.

Saya juga perlu mempertimbangkan kelengkapan jawaban. Selain memperkenalkan identitas saya, saya harus menjelaskan secara singkat fungsi utama saya, seperti tanya jawab, pembuatan konten, dan analisis, sehingga pengguna tahu cara menggunakan asisten ini.

Terakhir, saya perlu memastikan nada yang ramah dan mudah didekati, mengekspresikan kemauan membantu. Saya dapat menggunakan ungkapan seperti "Saya senang membantu" agar pengguna merasakan kehangatan interaksi.

Berdasarkan pertimbangan ini, saya dapat menyusun jawaban yang ringkas dan jelas yang tidak hanya menjawab pertanyaan pengguna tetapi juga mengarahkan interaksi selanjutnya.
==================== Respons Lengkap ====================

Saya adalah GLM, model bahasa besar yang dilatih oleh ZHIPU AI. Dilatih pada data teks dalam jumlah besar, saya dapat memahami dan menghasilkan bahasa manusia untuk membantu pengguna menjawab pertanyaan, memberikan informasi, dan terlibat dalam percakapan.

Saya terus belajar dan meningkatkan diri untuk memberikan layanan yang lebih baik. Saya senang menjawab pertanyaan Anda atau memberikan bantuan! Apa yang bisa saya lakukan untuk Anda?
==================== Penggunaan Token ====================

{ prompt_tokens: 7, completion_tokens: 248, total_tokens: 255 }

HTTP

Kode contoh

# Wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja Bailian Anda. URL berbeda-beda tergantung wilayah.
curl -X POST https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "ZHIPU/GLM-5.3",
    "messages": [
        {
            "role": "user",
            "content": "Who are you?"
        }
    ],
    "stream": true,
    "stream_options": {
        "include_usage": true
    },
    "enable_thinking": true,
    "reasoning_effort": "max"
}'

Python

Kode contoh

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja Bailian Anda. URL berbeda-beda tergantung wilayah.
    base_url="https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Dapatkan informasi cuaca untuk kota tertentu",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "Nama kota"}
                },
                "required": ["city"]
            }
        }
    }
]

messages = [{"role": "user", "content": "Bagaimana cuaca di Beijing"}]

completion = client.chat.completions.create(
    model="ZHIPU/GLM-5.3",
    tools=tools,
    messages=messages,
    extra_body={
        "tool_stream": True,
    },
    stream=True,
    stream_options={"include_usage": True},
)

for chunk in completion:
    if chunk.choices:
        delta = chunk.choices[0].delta
        if hasattr(delta, 'content') and delta.content:
            print(f"[content] {delta.content}")
        if hasattr(delta, 'tool_calls') and delta.tool_calls:
            for tc in delta.tool_calls:
                print(f"[tool_call] id={tc.id}, name={tc.function.name}, args={tc.function.arguments}")
        if chunk.choices[0].finish_reason:
            print(f"[finish_reason] {chunk.choices[0].finish_reason}")
    if not chunk.choices and chunk.usage:
        print(f"[usage] {chunk.usage}")

Node.js

Kode contoh

import OpenAI from "openai";
import process from 'process';

const openai = new OpenAI({
    apiKey: process.env.DASHSCOPE_API_KEY,
    // Wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja Bailian Anda. URL berbeda-beda tergantung wilayah.
    baseURL: 'https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1'
});

const tools = [
    {
        type: "function",
        "function": {
            name: "get_weather",
            description: "Dapatkan informasi cuaca untuk kota tertentu",
            parameters: {
                type: "object",
                properties: {
                    city: { type: "string", description: "Nama kota" }
                },
                required: ["city"]
            }
        }
    }
];

async function main() {
    try {
        const stream = await openai.chat.completions.create({
            model: 'ZHIPU/GLM-5.3',
            messages: [{ role: 'user', content: 'Bagaimana cuaca di Beijing' }],
            tools: tools,
            tool_stream: true,
            stream: true,
            stream_options: {
                include_usage: true
            },
        });

        for await (const chunk of stream) {
            if (!chunk.choices?.length) {
                if (chunk.usage) {
                    console.log(`[usage] ${JSON.stringify(chunk.usage)}`);
                }
                continue;
            }

            const delta = chunk.choices[0].delta;

            if (delta.content) {
                console.log(`[content] ${delta.content}`);
            }

            if (delta.tool_calls) {
                for (const tc of delta.tool_calls) {
                    console.log(`[tool_call] id=${tc.id}, name=${tc.function.name}, args=${tc.function.arguments}`);
                }
            }

            if (chunk.choices[0].finish_reason) {
                console.log(`[finish_reason] ${chunk.choices[0].finish_reason}`);
            }
        }
    } catch (error) {
        console.error('Error:', error);
    }
}

main();

curl

# Wilayah Singapura. Ganti {WorkspaceId} dengan ID ruang kerja Bailian Anda. URL berbeda-beda tergantung wilayah.
curl -X POST https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
    "model": "ZHIPU/GLM-5.3",
    "messages": [
        {
            "role": "user",
            "content": "Bagaimana cuaca di Beijing"
        }
    ],
    "tools": [
        {
            "type": "function",
            "function": {
                "name": "get_weather",
                "description": "Dapatkan informasi cuaca untuk kota tertentu",
                "parameters": {
                    "type": "object",
                    "properties": {
                        "city": {"type": "string", "description": "Nama kota"}
                    },
                    "required": ["city"]
                }
            }
        }
    ],
    "stream": true,
    "stream_options": {"include_usage": true},
    "tool_stream": true
}'