Chatbox adalah aplikasi klien AI dan asisten cerdas yang memungkinkan Anda berdialog dengan Large Language Models (LLMs) tanpa perlu mengonfigurasi lingkungan komputasi.
Prasyarat
Anda perlu mendapatkan Kunci API dan memastikan bahwa layanan model Alibaba Cloud Model Studio telah diaktifkan.
Dari Daftar Model, pilih model generasi teks yang ingin Anda gunakan. Jika Anda adalah pengguna RAM, lihat Manajemen Workspace untuk memastikan Anda memiliki izin untuk memanggil model tersebut.
Fitur Chatbox dapat berubah sewaktu-waktu. Dukungan model didasarkan pada kinerja aktual.
1. Buka Chatbox
Buka Chatbox. Anda dapat mengunduh dan menginstal versi yang sesuai untuk perangkat Anda atau langsung launch the web version.
2. Konfigurasikan model dan Kunci API
2.1. Pilih custom provider
Di pojok kiri bawah halaman Chatbox, klik Settings. Klik Model Provider, lalu klik Add di bagian bawah.
Pada kotak dialog yang muncul, atur Name menjadi "DashScope" dan API Mode menjadi OpenAI API Compatible. Kemudian, klik Add.
2.2. Konfigurasikan model dan Kunci API
|
|
2.3. Pengaturan percakapan
Setelah Anda mengonfigurasi model dan Kunci API, klik Conversation Settings di sebelah kiri halaman Settings. Pada kotak dialog, atur parameter Maximum number of contextual messages dan Temperature:
Maximum number of contextual messages
Parameter ini menentukan jumlah putaran percakapan sebelumnya yang dipertimbangkan oleh LLM untuk setiap pertanyaan baru. Untuk obrolan santai, disarankan pengaturan antara 5 hingga 10. Jumlah pesan kontekstual yang terlalu tinggi dapat menyebabkan error berikut:
Range of input length should be [1, xxx].Temperature
Parameter ini mengontrol keragaman teks yang dihasilkan oleh LLM.
temperature yang lebih tinggi menghasilkan teks yang lebih beragam, cocok untuk skenario seperti pembuatan konten dan brainstorming.
temperature yang lebih rendah menghasilkan teks yang lebih deterministik. Ini cocok untuk skenario seperti penulisan kode dan penalaran matematis.
Atur parameter ini ke nilai kurang dari 2. Jika tidak, error
'temperature' must be Floatakan dilaporkan.Top P
Serupa dengan parameter temperature, parameter ini mengontrol keragaman teks yang dihasilkan.
Atur parameter ini ke nilai yang tidak lebih besar dari 1. Jika tidak, error "xx is greater than the maximum of 1 - 'top_p'" akan dilaporkan.
3. Mulai percakapan
Masukkan pertanyaan di kotak dialog untuk memulai percakapan.
Saat ini Anda tidak dapat menggunakan file video atau audio dalam percakapan.
Normal conversation
Masukkan "Who are you?" di kotak input untuk menguji konfigurasi:
Chatbox menampilkan proses berpikir dan respons dari model Qwen3.
Input Image
1. Pilih model
Untuk tanya jawab dengan gambar, Anda memerlukan model yang memiliki kemampuan visual. Saat konfigurasi, pilih model Qwen-VL, QVQ, atau Qwen-Omni.
Untuk informasi selengkapnya, lihat 2.2. Configure the model and API key. Di bawah Model, tambahkan model visual yang ingin Anda gunakan dan pilih kemampuan Vision.
2. Dialogue
Pilih model visual di sebelah tombol kirim 
. Masukkan pertanyaan Anda di kotak input, klik ikon 
, lalu pilih Add Image untuk mengunggah gambar.
Input documents
Chatbox mendukung file seperti PDF, DOCX, dan TXT, sehingga model dapat menjawab pertanyaan berdasarkan isi dokumen.
Chatbox saat ini tidak dapat mengurai informasi gambar dalam dokumen.
1. Pilih model
Model dengan kemampuan pemrosesan konteks panjang cocok untuk tanya jawab berbasis dokumen. Pilih Qwen-Flash, Qwen-Long, qwen2.5-14b-instruct-1m, atau qwen2.5-7b-instruct-1m. Model-model ini dapat memproses jutaan token dan ditawarkan dengan harga lebih rendah.
Untuk informasi selengkapnya, lihat 2.2. Configure the model and API key. Di bawah Model, tambahkan model yang ingin Anda gunakan. Contoh ini menggunakan qwen-flash.
2. Start a conversation
Pilih model yang telah Anda tambahkan di sebelah tombol kirim 
. Masukkan pertanyaan Anda di kotak input, klik ikon , lalu klik Select File.
Mengajukan beberapa pertanyaan berdasarkan dokumen dapat menghabiskan banyak token. Untuk menghemat biaya, Anda dapat menurunkan Maximum number of contextual messages untuk mengurangi jumlah token input. Anda juga dapat menggunakan model qwen-flash. Model ini mendukung context cache, yang dapat mengurangi biaya token input dalam percakapan multi-putaran.
FAQ
Q: Bagaimana saya ditagih?
A: Alibaba Cloud Model Studio menagih Anda berdasarkan token input dan output model. Untuk informasi tentang biaya token model, lihat Model List.
Percakapan multi-putaran mencakup riwayat percakapan sebelumnya, yang mengonsumsi lebih banyak token. Untuk mengurangi konsumsi token yang tidak perlu, Anda dapat memulai percakapan baru atau menurunkan Maximum number of contextual messages. Untuk obrolan santai, disarankan pengaturan Maximum number of contextual messages antara 5 hingga 10.
Q: Apa yang harus saya lakukan jika Chatbox melaporkan error "Failed to connect to Custom Provider"?
A: Lakukan troubleshooting berdasarkan pesan error:
Range of input length should be [1, xxx]
Error ini dapat terjadi jika input Anda terlalu panjang atau akumulasi konteks dalam percakapan multi-putaran melebihi panjang konteks maksimum model. Anda dapat melakukan troubleshooting berdasarkan skenario Anda:
Error pada putaran pertama
Teks yang Anda masukkan mungkin terlalu panjang, atau file yang diunggah mungkin berisi terlalu banyak token. Anda dapat menggunakan model dengan panjang konteks 1.000.000, seperti qwen-flash atau qwen-long, untuk memproses permintaan Anda.
Error setelah percakapan multi-putaran
Akumulasi token dalam percakapan multi-putaran mungkin telah melebihi panjang konteks maksimum model. Anda dapat mencoba salah satu metode berikut:
Mulai percakapan baru
LLM tidak akan lagi merujuk ke riwayat percakapan saat memberikan respons.
Kurangi Maximum number of contextual messages
Hal ini membuat LLM hanya merujuk ke rentang terbatas dari riwayat percakapan saat memberikan respons, sehingga menghindari penggunaan seluruh riwayat percakapan sebagai input.
Ganti model
Anda dapat beralih ke model dengan panjang konteks 1.000.000, seperti qwen-flash atau qwen-long, untuk menangani konteks yang lebih panjang dan memungkinkan lebih banyak putaran percakapan.
'temperature' must be Float
Parameter
temperaturemodel harus kurang dari 2. Atur parameter Temperature ke nilai kurang dari 2.
Jika masalah Anda tidak tercantum di atas, lihat Error messages untuk troubleshooting.
Q: Apa batasan untuk gambar dan dokumen yang diunggah?
A:
Images: Untuk batasan unggahan gambar, lihat Image and video understanding.
Documents: Chatbox mengurai dokumen yang diunggah. Panjang total token dari teks yang diurai dan konteks percakapan tidak boleh melebihi panjang konteks maksimum model.