Alibaba Cloud Model Studio：Antarmuka Chat kompatibel dengan OpenAI

Model Qwen dari Alibaba Cloud Model Studio mendukung antarmuka yang kompatibel dengan OpenAI. Anda dapat memigrasikan kode OpenAI yang sudah ada ke layanan Alibaba Cloud Model Studio hanya dengan memperbarui Kunci API, BASE_URL, dan nama model.

Panggil model menggunakan SDK OpenAI

Prasyarat

• Pastikan lingkungan Python telah diinstal di komputer Anda.

• Instal versi terbaru SDK OpenAI.

  # Jika perintah berikut melaporkan kesalahan, ganti pip dengan pip3.
  pip install -U openai

• Aktifkan layanan Alibaba Cloud Model Studio dan peroleh Kunci API. Untuk informasi selengkapnya, lihat Persiapan: Peroleh dan konfigurasikan Kunci API.

• Kami menyarankan agar Anda menyetel Kunci API sebagai Variabel lingkungan untuk mengurangi risiko kebocoran Kunci API. Untuk informasi selengkapnya, lihat Menyetel Kunci API sebagai Variabel lingkungan. Anda juga dapat mengonfigurasi Kunci API dalam kode, tetapi hal ini meningkatkan risiko kebocoran.

• Pilih model yang akan digunakan. Untuk informasi selengkapnya, lihat Daftar model yang didukung.

Penggunaan

Contoh berikut menunjukkan cara menggunakan SDK OpenAI untuk mengakses model Qwen di Alibaba Cloud Model Studio.

Contoh panggilan non-streaming

from openai import OpenAI
import os

def get_response():
    client = OpenAI(
        api_key=os.getenv("DASHSCOPE_API_KEY"),  # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris ini dengan api_key="sk-xxx" menggunakan Kunci API Model Studio Anda.
        # Tetapkan base_url SDK DashScope. Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1.
        base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",  
    )
    completion = client.chat.completions.create(
        model="qwen-plus",  # Contoh ini menggunakan qwen-plus. Anda dapat mengganti nama model sesuai kebutuhan. Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models.
        messages=[{'role': 'system', 'content': 'You are a helpful assistant.'},
                  {'role': 'user', 'content': 'Who are you?'}]
        )
    print(completion.model_dump_json())

if __name__ == '__main__':
    get_response()

Menjalankan kode menghasilkan hasil berikut:

{
    "id": "chatcmpl-xxx",
    "choices": [
        {
            "finish_reason": "stop",
            "index": 0,
            "logprobs": null,
            "message": {
                "content": "I am a large-scale pre-trained model from Alibaba Cloud. My name is Qwen.",
                "role": "assistant",
                "function_call": null,
                "tool_calls": null
            }
        }
    ],
    "created": 1716430652,
    "model": "qwen-plus",
    "object": "chat.completion",
    "system_fingerprint": null,
    "usage": {
        "completion_tokens": 18,
        "prompt_tokens": 22,
        "total_tokens": 40
    }
}

Contoh panggilan streaming

from openai import OpenAI
import os


def get_response():
    client = OpenAI(
        # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan api_key="sk-xxx" menggunakan Kunci API Model Studio Anda.
        api_key=os.getenv("DASHSCOPE_API_KEY"),
        # Tetapkan base_url SDK DashScope. Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1.
        base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",
        
    )
    completion = client.chat.completions.create(
        model="qwen-plus",  # Contoh ini menggunakan qwen-plus. Anda dapat mengganti nama model sesuai kebutuhan. Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models.
        messages=[{'role': 'system', 'content': 'You are a helpful assistant.'},
                  {'role': 'user', 'content': 'Who are you?'}],
        stream=True,
        # Gunakan pengaturan berikut untuk menampilkan informasi penggunaan token pada baris terakhir keluaran streaming.
        stream_options={"include_usage": True}
        )
    for chunk in completion:
        print(chunk.model_dump_json())


if __name__ == '__main__':
    get_response()

Menjalankan kode menghasilkan hasil berikut:

{"id":"chatcmpl-xxx","choices":[{"delta":{"content":"","function_call":null,"role":"assistant","tool_calls":null},"finish_reason":null,"index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[{"delta":{"content":"I am"},"function_call":null,"role":null,"tool_calls":null},"finish_reason":null,"index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[{"delta":{"content":" a large-scale"},"function_call":null,"role":null,"tool_calls":null},"finish_reason":null,"index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[{"delta":{"content":" language"},"function_call":null,"role":null,"tool_calls":null},"finish_reason":null,"index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[{"delta":{"content":" model from Alibaba Cloud"},"function_call":null,"role":null,"tool_calls":null},"finish_reason":null,"index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[{"delta":{"content":", and my name is Qwen."},"function_call":null,"role":null,"tool_calls":null},"finish_reason":null,"index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[{"delta":{"content":"","function_call":null,"role":null,"tool_calls":null},"finish_reason":"stop","index":0,"logprobs":null}],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":null}
{"id":"chatcmpl-xxx","choices":[],"created":1719286190,"model":"qwen-plus","object":"chat.completion.chunk","system_fingerprint":null,"usage":{"completion_tokens":16,"prompt_tokens":22,"total_tokens":38}}

Contoh pemanggilan fungsi

Bagian ini memberikan contoh cara menerapkan fitur Pemanggilan alat dengan antarmuka kompatibel OpenAI menggunakan alat kueri cuaca dan waktu. Kode contoh mendukung Pemanggilan alat multi-putaran.

from openai import OpenAI
from datetime import datetime
import json
import os

client = OpenAI(
    # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris berikut dengan api_key="sk-xxx" menggunakan Kunci API Model Studio Anda.
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # Tetapkan base_url SDK DashScope. Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1.
    base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",  
)

# Definisikan daftar alat. Model merujuk pada nama dan deskripsi alat saat memilih alat yang akan digunakan.
tools = [
    # Alat 1: Dapatkan waktu saat ini.
    {
        "type": "function",
        "function": {
            "name": "get_current_time",
            "description": "Berguna ketika Anda ingin mengetahui waktu saat ini.",
            # Karena tidak diperlukan parameter input untuk mendapatkan waktu saat ini, parameters adalah kamus kosong.
            "parameters": {}
        }
    },  
    # Alat 2: Dapatkan cuaca kota tertentu.
    {
        "type": "function",
        "function": {
            "name": "get_current_weather",
            "description": "Berguna untuk menanyakan cuaca di kota tertentu.",
            "parameters": {  
                "type": "object",
                "properties": {
                    # Lokasi harus disediakan untuk menanyakan cuaca, sehingga parameter diatur menjadi location.
                    "location": {
                        "type": "string",
                        "description": "Kota atau kabupaten, seperti Beijing, Hangzhou, atau Distrik Yuhang."
                    }
                }
            },
            "required": [
                "location"
            ]
        }
    }
]

# Simulasikan alat kueri cuaca. Hasil contoh: "Hari ini hujan di Beijing."
def get_current_weather(location):
    return f"Hari ini hujan di {location}. "

# Alat untuk menanyakan waktu saat ini. Hasil contoh: "Waktu saat ini: 2024-04-15 17:15:18."
def get_current_time():
    # Dapatkan tanggal dan waktu saat ini.
    current_datetime = datetime.now()
    # Format tanggal dan waktu saat ini.
    formatted_time = current_datetime.strftime('%Y-%m-%d %H:%M:%S')
    # Kembalikan waktu saat ini yang telah diformat.
    return f"Waktu saat ini: {formatted_time}."

# Enkapsulasi fungsi respons model.
def get_response(messages):
    completion = client.chat.completions.create(
        model="qwen-plus",  # Contoh ini menggunakan qwen-plus. Anda dapat mengganti nama model sesuai kebutuhan. Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models.
        messages=messages,
        tools=tools
        )
    return completion.model_dump()

def call_with_messages():
    print('\n')
    messages = [
            {
                "content": input('Silakan masukkan pertanyaan Anda:'),  # Pertanyaan contoh: "Jam berapa sekarang?" "Jam berapa satu jam lagi?" "Bagaimana cuaca di Beijing?"
                "role": "user"
            }
    ]
    print("-"*60)
    # Putaran pertama pemanggilan model.
    i = 1
    first_response = get_response(messages)
    assistant_output = first_response['choices'][0]['message']
    print(f"\nKeluaran model besar putaran {i}: {first_response}\n")
    if  assistant_output['content'] is None:
        assistant_output['content'] = ""
    messages.append(assistant_output)
    # Jika tidak perlu memanggil alat, kembalikan jawaban akhir secara langsung.
    if assistant_output['tool_calls'] == None:  # Jika model menentukan bahwa tidak perlu memanggil alat, cetak balasan asisten secara langsung. Tidak diperlukan putaran kedua pemanggilan model.
        print(f"Tidak perlu memanggil alat. Saya dapat menjawab langsung: {assistant_output['content']}")
        return
    # Jika perlu memanggil alat, lakukan beberapa putaran pemanggilan model hingga model menentukan bahwa tidak perlu memanggil alat lagi.
    while assistant_output['tool_calls'] != None:
        # Jika model menentukan bahwa perlu memanggil alat kueri cuaca, jalankan alat kueri cuaca.
        if assistant_output['tool_calls'][0]['function']['name'] == 'get_current_weather':
            tool_info = {"name": "get_current_weather", "role":"tool"}
            # Ekstrak informasi parameter lokasi.
            location = json.loads(assistant_output['tool_calls'][0]['function']['arguments'])['location']
            tool_info['content'] = get_current_weather(location)
        # Jika model menentukan bahwa perlu memanggil alat kueri waktu, jalankan alat kueri waktu.
        elif assistant_output['tool_calls'][0]['function']['name'] == 'get_current_time':
            tool_info = {"name": "get_current_time", "role":"tool"}
            tool_info['content'] = get_current_time()
        print(f"Keluaran alat: {tool_info['content']}\n")
        print("-"*60)
        messages.append(tool_info)
        assistant_output = get_response(messages)['choices'][0]['message']
        if  assistant_output['content'] is None:
            assistant_output['content'] = ""
        messages.append(assistant_output)
        i += 1
        print(f"Keluaran model besar putaran {i}: {assistant_output}\n")
    print(f"Jawaban akhir: {assistant_output['content']}")

if __name__ == '__main__':
    call_with_messages()

Jika Anda memasukkan Bagaimana cuaca di Hangzhou dan Beijing? Jam berapa sekarang?, program menghasilkan keluaran berikut:

Parameter permintaan

Parameter input diselaraskan dengan parameter antarmuka OpenAI. Parameter berikut didukung:

Parameter respons

Panggil model menggunakan SDK langchain_openai

Prasyarat

• Pastikan lingkungan Python telah diinstal di komputer Anda.

• Jalankan perintah berikut untuk menginstal SDK langchain_openai.

  # Jika perintah berikut melaporkan kesalahan, ganti pip dengan pip3.
  pip install -U langchain_openai

• Aktifkan layanan Alibaba Cloud Model Studio dan peroleh Kunci API. Untuk informasi selengkapnya, lihat Persiapan: Peroleh dan konfigurasikan Kunci API.

• Kami menyarankan agar Anda menyetel Kunci API sebagai Variabel lingkungan untuk mengurangi risiko kebocoran Kunci API. Untuk informasi selengkapnya, lihat Menyetel Kunci API sebagai Variabel lingkungan. Anda juga dapat mengonfigurasi Kunci API dalam kode, tetapi hal ini meningkatkan risiko kebocoran.

• Pilih model yang akan digunakan. Untuk informasi selengkapnya, lihat Daftar model yang didukung.

Penggunaan

Contoh berikut menunjukkan cara menggunakan SDK langchain_openai untuk memanggil model Qwen dari Alibaba Cloud Model Studio.

Keluaran non-streaming

Keluaran non-streaming diimplementasikan menggunakan metode invoke. Berikut adalah kode contohnya:

from langchain_openai import ChatOpenAI
import os

def get_response():
    llm = ChatOpenAI(
        api_key=os.getenv("DASHSCOPE_API_KEY"),  # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris ini dengan api_key="sk-xxx" menggunakan Kunci API Model Studio Anda.
        base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",  # Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1.
        model="qwen-plus"  # Contoh ini menggunakan qwen-plus. Anda dapat mengganti nama model sesuai kebutuhan. Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models.
        )
    messages = [
        {"role":"system","content":"You are a helpful assistant."},
        {"role":"user","content":"Who are you?"}
    ]
    response = llm.invoke(messages)
    print(response.json())

if __name__ == "__main__":
    get_response()

Menjalankan kode menghasilkan hasil berikut:

{
    "content": "I am a large language model from Alibaba Cloud. My name is Qwen.",
    "additional_kwargs": {},
    "response_metadata": {
        "token_usage": {
            "completion_tokens": 16,
            "prompt_tokens": 22,
            "total_tokens": 38
        },
        "model_name": "qwen-plus",
        "system_fingerprint": "",
        "finish_reason": "stop",
        "logprobs": null
    },
    "type": "ai",
    "name": null,
    "id": "run-xxx",
    "example": false,
    "tool_calls": [],
    "invalid_tool_calls": []
}

Keluaran streaming

Keluaran streaming diimplementasikan menggunakan metode stream. Anda tidak perlu mengonfigurasi parameter stream.

from langchain_openai import ChatOpenAI
import os

def get_response():
    llm = ChatOpenAI(
        api_key=os.getenv("DASHSCOPE_API_KEY"),  # Jika Anda belum mengonfigurasi variabel lingkungan, ganti baris ini dengan api_key="sk-xxx" menggunakan Kunci API Model Studio Anda.
        base_url="https://dashscope-intl.aliyuncs.com/compatible-mode/v1",   # Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1.
        model="qwen-plus",   # Contoh ini menggunakan qwen-plus. Anda dapat mengganti nama model sesuai kebutuhan. Untuk daftar model, lihat https://www.alibabacloud.com/help/en/model-studio/getting-started/models.
        stream_usage=True
        )
    messages = [
        {"role":"system","content":"You are a helpful assistant."}, 
        {"role":"user","content":"Who are you?"},
    ]
    response = llm.stream(messages)
    for chunk in response:
        print(chunk.model_dump_json())

if __name__ == "__main__":
    get_response()

Menjalankan kode menghasilkan hasil berikut:

{"content": "", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": "I am", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": " a large", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": " language model", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": " from", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": " Alibaba", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": " Cloud", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": ", and my name is Qwen.", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": "", "additional_kwargs": {}, "response_metadata": {"finish_reason": "stop"}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": null, "tool_call_chunks": []}
{"content": "", "additional_kwargs": {}, "response_metadata": {}, "type": "AIMessageChunk", "name": null, "id": "run-xxx", "example": false, "tool_calls": [], "invalid_tool_calls": [], "usage_metadata": {"input_tokens": 22, "output_tokens": 16, "total_tokens": 38}, "tool_call_chunks": []}

Untuk informasi tentang pengaturan parameter input, lihat Parameter permintaan. Parameter terkait didefinisikan dalam objek ChatOpenAI.

Panggil model menggunakan antarmuka HTTP

Anda dapat memanggil layanan Alibaba Cloud Model Studio menggunakan antarmuka HTTP untuk menerima respons yang memiliki struktur sama dengan respons dari layanan OpenAI.

Prasyarat

• Aktifkan layanan Alibaba Cloud Model Studio dan peroleh Kunci API. Untuk informasi selengkapnya, lihat Persiapan: Peroleh dan konfigurasikan Kunci API.

• Kami menyarankan agar Anda menyetel Kunci API sebagai Variabel lingkungan untuk mengurangi risiko kebocoran Kunci API. Untuk informasi selengkapnya, lihat Menyetel Kunci API sebagai Variabel lingkungan. Anda juga dapat mengonfigurasi Kunci API dalam kode, tetapi hal ini meningkatkan risiko kebocoran.

Kirim permintaan API

Singapura: POST https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions
Tiongkok (Beijing): POST https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions

Contoh permintaan

Contoh berikut menunjukkan skrip yang memanggil API menggunakan perintah cURL.

Keluaran non-streaming

# Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions.
curl --location 'https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "model": "qwen-plus",
    "messages": [
        {
            "role": "system",
            "content": "You are a helpful assistant."
        },
        {
            "role": "user", 
            "content": "Who are you?"
        }
    ]
}'

Menjalankan perintah menghasilkan hasil berikut:

{
    "choices": [
        {
            "message": {
                "role": "assistant",
                "content": "I am a large language model from Alibaba Cloud. My name is Qwen."
            },
            "finish_reason": "stop",
            "index": 0,
            "logprobs": null
        }
    ],
    "object": "chat.completion",
    "usage": {
        "prompt_tokens": 11,
        "completion_tokens": 16,
        "total_tokens": 27
    },
    "created": 1715252778,
    "system_fingerprint": "",
    "model": "qwen-plus",
    "id": "chatcmpl-xxx"
}

Keluaran streaming

Jika Anda ingin menggunakan keluaran streaming, setel parameter stream ke true dalam badan permintaan.

# Jika Anda menggunakan model di wilayah Tiongkok (Beijing), ganti URL dengan: https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions.
curl --location 'https://dashscope-intl.aliyuncs.com/compatible-mode/v1/chat/completions' \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "model": "qwen-plus",
    "messages": [
        {
            "role": "system",
            "content": "You are a helpful assistant."
        },
        {
            "role": "user", 
            "content": "Who are you?"
        }
    ],
    "stream":true
}'

Menjalankan perintah menghasilkan hasil berikut:

data: {"choices":[{"delta":{"content":"","role":"assistant"},"index":0,"logprobs":null,"finish_reason":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: {"choices":[{"finish_reason":null,"delta":{"content":"I am"},"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: {"choices":[{"delta":{"content":" a large-scale"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: {"choices":[{"delta":{"content":" language model"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: {"choices":[{"delta":{"content":" from Alibaba Cloud"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: {"choices":[{"delta":{"content":", and my name is Qwen."},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: {"choices":[{"delta":{"content":""},"finish_reason":"stop","index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1715931028,"system_fingerprint":null,"model":"qwen-plus","id":"chatcmpl-3bb05cf5cd819fbca5f0b8d67a025022"}

data: [DONE]

Untuk rincian parameter input, lihat Parameter permintaan.

Contoh respons abnormal

Jika terjadi kesalahan selama permintaan, respons menunjukkan penyebab kesalahan dalam bidang code dan message.

{
    "error": {
        "message": "Incorrect API key provided. ",
        "type": "invalid_request_error",
        "param": null,
        "code": "invalid_api_key"
    }
}

Kode status