Basis pengetahuan melengkapi model bahasa besar (LLM) dengan data privat dan informasi terkini. Dengan menggunakan Generasi yang Diperkaya dengan Pengambilan Data (Retrieval-Augmented Generation/RAG), LLM mengambil konten relevan dari basis pengetahuan untuk menghasilkan jawaban yang lebih akurat.
Batasan akses Konsol: Hanya pengguna yang membuat aplikasi Alibaba Cloud Model Studio di wilayah Singapura sebelum 21 April 2025 yang dapat mengakses tab Application Development.
Tab ini berisi fitur-fitur berikut: Applications (aplikasi agen dan aplikasi alur kerja), Components (rekayasa prompt dan plug-in), dan Data (basis pengetahuan dan data aplikasi). Semua fitur ini merupakan fitur pratinjau. Gunakan dengan hati-hati di lingkungan produksi.
Batasan pemanggilan API: Hanya pengguna yang membuat aplikasi Alibaba Cloud Model Studio di wilayah Singapura sebelum 21 April 2025 yang dapat memanggil API data aplikasi, basis pengetahuan, dan rekayasa prompt.
|
Aplikasi tanpa basis pengetahuan khusus LLM tanpa basis pengetahuan khusus tidak dapat menjawab pertanyaan spesifik domain secara akurat.
|
Aplikasi dengan basis pengetahuan khusus LLM dengan basis pengetahuan khusus dapat menjawab pertanyaan spesifik domain secara akurat.
|
Model yang didukung
Model-model berikut mendukung basis pengetahuan. Mengonfigurasi basis pengetahuan untuk Qwen
-
Qwen-Max/Plus/Turbo
-
QwenVL-Max/Plus
-
Versi open-source Qwen (misalnya, Qwen2.5)
Daftar ini dapat berubah sewaktu-waktu. Untuk daftar terbaru, lihat halaman Manajemen Aplikasi saat Anda membuat aplikasi.
Panduan cepat
Bagian ini menunjukkan cara membangun aplikasi tanya-jawab LLM yang menjawab pertanyaan spesifik domain tanpa menulis kode apa pun. Panduan ini menggunakan "seri ponsel Alibaba Cloud Model Studio" sebagai contoh.
1. Bangun basis pengetahuan
-
Buka halaman Basis pengetahuan, lalu klik Create Knowledge Base. isi Name dan Description, biarkan pengaturan lainnya tetap default, lalu klik Next Step.
-
Pilih Default Category dan unggah file Alibaba Cloud Model Studio Phone Series Product Introduction.docx. Klik Next Step, lalu klik Complete.
2. Integrasi dengan aplikasi bisnis
Setelah membuat basis pengetahuan, kaitkan dengan aplikasi Alibaba Cloud Model Studio atau aplikasi eksternal dalam ruang kerja yang sama untuk memproses permintaan pengambilan data.
Aplikasi agen
-
Buka halaman App Center, temukan aplikasi agen target, klik Configure pada kartunya, lalu pilih model untuk aplikasi tersebut.
-
Klik tombol + di sebelah kanan Document Knowledge Base untuk menambahkan basis pengetahuan yang telah Anda buat. Anda dapat membiarkan ambang batas kemiripan dan bobot pada nilai default-nya.
-
Pada kotak input di sisi kanan halaman, masukkan pertanyaan. LLM akan menggunakan basis pengetahuan yang Anda buat untuk menghasilkan jawaban.
Misalnya: "Bantu saya memilih ponsel Alibaba Cloud Model Studio dengan kamera terbaik di bawah 3.000 CNY."
Aplikasi alur kerja
-
Buka halaman App Center, temukan aplikasi alur kerja target, lalu klik Konfigurasikan pada kartunya. Seret node basis pengetahuan ke kanvas dan hubungkan setelah node Start.
-
Konfigurasikan node basis pengetahuan:
-
Input: Di sebelah kanan variabel
content, klik daftar drop-down Value dan pilih . Anda mungkin perlu membuka grup "Built-in Variable" untuk menemukan variabel query. -
Pilih Basis Pengetahuan: Node basis pengetahuan menawarkan dua metode pemilihan:
-
Pilih basis pengetahuan tetap: Pilih basis pengetahuan yang telah Anda buat dari menu drop-down. Gunakan metode ini ketika basis pengetahuan yang sama diperlukan untuk setiap panggilan.
-
Pemilihan Dinamis: Konfigurasikan variabel
CodeListuntuk secara dinamis menentukan basis pengetahuan mana yang akan digunakan berdasarkan output dari node hulu. Gunakan metode ini untuk mengambil data dari basis pengetahuan berbeda berdasarkan input yang bervariasi.
-
-
Tentukan TopK (Opsional): Menentukan jumlah potongan teks yang dikembalikan ke node hilir (biasanya node LLM).
Meningkatkan nilai ini biasanya meningkatkan akurasi jawaban LLM tetapi juga meningkatkan konsumsi token input LLM.
-
-
Seret node LLM ke kanvas dan hubungkan setelah node basis pengetahuan serta sebelum node end.
-
Konfigurasikan node LLM:
-
Pada daftar Model configuration, pilih model untuk node tersebut.
-
Pada bidang Prompt, masukkan prompt yang menginstruksikan LLM untuk menggunakan basis pengetahuan. Masukkan "/" untuk memasukkan variabel
result, yang merepresentasikan hasil dari pengambilan data basis pengetahuan.
-
-
Konfigurasikan node akhir: Masukkan
/dan pilih untuk menetapkan respons LLM sebagai output akhir. -
Klik Test di pojok kanan atas halaman. Pada kotak input di sebelah kanan, masukkan pertanyaan. LLM akan menggunakan basis pengetahuan yang Anda buat untuk menghasilkan jawaban.
Misalnya: "Bantu saya memilih ponsel Alibaba Cloud Model Studio dengan kamera terbaik di bawah 3.000 CNY."
Aplikasi eksternal
Selain membangun aplikasi di Alibaba Cloud Model Studio, Anda dapat menggunakan Alibaba Cloud Model Studio SDK untuk mengintegrasikan pengambilan data basis pengetahuan ke dalam aplikasi AI eksternal.
Untuk langkah-langkah integrasi terperinci, lihat Panduan API Basis Pengetahuan.
3. Optimalkan kinerja RAG (Opsional)
Jika hasil pengambilan data tidak lengkap atau tidak akurat selama proses tanya-jawab, lihat Optimalisasi kinerja RAG.
Aksi
Di halaman basis pengetahuan, Anda dapat melihat dan mengelola semua basis pengetahuan dalam ruang kerja saat ini.
ID basis pengetahuan: Nilai bidang ID pada setiap kartu basis pengetahuan, digunakan untuk pemanggilan API.
Buat basis pengetahuan
Klik Create Knowledge Base, ikuti tiga langkah: berikan informasi dasar dan pilih jenis basis pengetahuan, konfigurasikan sumber data, dan atur parameter pengindeksan.
-
Dari halaman basis pengetahuan, klik Create Knowledge Base.
-
Berikan informasi dasar
Pilih Knowledge Base Type berdasarkan kasus penggunaan Anda. Setiap basis pengetahuan hanya mendukung satu jenis. Jika Anda memilih jenis pencarian dokumen, Anda juga harus memilih kasus penggunaan: tanya-jawab dokumen dasar, balasan teks kaya:
-
Tanya-jawab dokumen dasar: Ideal untuk pengambilan data semantik dokumen teks biasa.
-
Balasan teks kaya: Ideal untuk respons yang berisi teks kaya.
Jenis basis pengetahuan tidak dapat diubah setelah pembuatan.
-
Pencarian dokumen (skenario pengambilan data)
-
Kasus penggunaan
-
Skenario ini cocok untuk mengambil data tidak terstruktur, seperti dokumen internal perusahaan dan manual produk. Data tidak terstruktur tidak diorganisir dalam skema tabel yang telah ditentukan dan dapat mencakup teks, tabel, dan gambar.
-
Jika file Anda berisi gambar yang ingin disertakan dalam respons aplikasi Alibaba Cloud Model Studio Anda, pilih Pencarian dokumen.
-
-
Sumber data: Anda dapat mengunggah file lokal atau mengimpornya dari Object Storage Service (OSS).
-
-
Kueri data (skenario chatbot atau NL2SQL)
-
Kasus penggunaan:
-
Ideal untuk membangun sistem tanya-jawab pada data terstruktur (data yang diorganisir dalam skema tabel yang telah ditentukan) untuk membuat asisten yang mengkueri FAQ, data produk, atau informasi personel.
-
Jika data Anda terdiri dari pasangan pertanyaan dan jawaban FAQ lengkap, pilih Kueri Data. Misalnya, jika file Excel berisi dua kolom,
QuestiondanAnswer, basis pengetahuan kueri data dapat menggunakan kolomQuestionuntuk pengambilan data dan kolomAnswersebagai konteks untuk respons LLM.Basis pengetahuan pencarian dokumen tidak mendukung fungsionalitas ini.
-
Anda dapat mengimpor beberapa file Excel, tetapi skema tabelnya harus identik.
-
-
Integrasi sumber data: Anda dapat mengunggah file XLS atau XLSX lokal.
-
-
Tanya-Jawab Gambar (pencarian gambar)
-
Kasus Penggunaan:
-
Ideal untuk membangun aplikasi pengambilan data multimoda untuk pencarian berdasarkan gambar dan pencarian berdasarkan gambar dan teks, seperti asisten penemuan produk atau asisten tanya-jawab visual.
-
-
Integrasi sumber data: Anda dapat mengunggah file XLS atau XLSX lokal.
File XLS dan XLSX harus berisi URL gambar yang dapat diakses publik untuk membangun indeks gambar. Untuk informasi lebih lanjut, lihat instruksi pembuatan di bawah ini.
-
Pilih kasus penggunaan: tanya-jawab dokumen dasar, balasan teks kaya.
-
Selama periode permintaan puncak, proses pembuatan dapat memakan waktu beberapa jam, tergantung pada volume data. Harap bersabar.
Perbarui basis pengetahuan
Perubahan pada basis pengetahuan secara otomatis disinkronkan dengan aplikasi apa pun yang menggunakannya.
Pencarian dokumen
-
Pembaruan otomatis (direkomendasikan)
Anda dapat mengatur pembaruan otomatis dengan mengintegrasikan API OSS, FC, dan basis pengetahuan Model Studio. Ikuti langkah-langkah berikut:
-
Buat bucket: Buka konsol OSS dan buat bucket OSS untuk menyimpan file sumber Anda.
-
Buat basis pengetahuan: Buat basis pengetahuan tidak terstruktur untuk menyimpan konten privat Anda.
-
Buat fungsi yang didefinisikan pengguna: Buka konsol FC dan buat fungsi untuk menangani event perubahan file, seperti pembuatan dan penghapusan file. Untuk informasi lebih lanjut, lihat Buat fungsi. Fungsi ini memanggil API yang relevan dari Panduan API Basis Pengetahuan untuk menyinkronkan basis pengetahuan Anda dengan perubahan file di OSS.
-
Buat pemicu OSS: Di FC, kaitkan pemicu OSS dengan fungsi yang didefinisikan pengguna yang telah dibuat sebelumnya. Saat event perubahan file seperti unggahan terjadi, pemicu mengaktifkan fungsi tersebut.
-
-
Pembaruan manual
Di halaman Basis Pengetahuan, temukan basis pengetahuan yang ingin Anda perbarui dan klik View Details pada kartunya.
-
Untuk menambahkan file baru: Klik Upload Data dan pilih file yang sudah ada dari konektor data.
-
Untuk menghapus file: Temukan file tersebut dan klik Delete di sebelah kanannya.
-
Untuk memodifikasi konten file: Pembaruan dan penggantian langsung tidak didukung. Pertama, hapus versi lama dari basis pengetahuan, lalu impor versi yang diperbarui.
Catatan: Kegagalan menghapus versi lama dapat menyebabkan hasil pencarian yang usang.
-
Kueri data dan Tanya-Jawab Gambar
Catatan: Di halaman detail basis pengetahuan Tanya-Jawab Gambar, tidak ada tombol Unggah Data langsung. Untuk memperbarui data, klik tautan Lihat Sumber Data untuk membuka halaman detail konektor data.
-
Pembaruan otomatis
Tidak didukung.
-
Pembaruan manual
Jika sumber data untuk basis pengetahuan Anda adalah tabel data di Data Aplikasi, ikuti dua langkah berikut untuk pembaruan manual.
-
Langkah 1: Perbarui tabel data
Buka tab Data Aplikasi. Di panel kiri, pilih tabel data target dan klik Upload Data.
-
Untuk memasukkan data baru: Atur jenis impor ke Incremental Upload. Unggah file Excel yang hanya berisi baris header dan baris data baru.
Baris header file harus sesuai dengan skema tabel saat ini. Anda dapat mengklik Download Template untuk mendapatkan file templat standar, lalu tambahkan data baru Anda ke dalamnya.
-
Untuk menghapus data: Atur jenis impor ke Upload and Overwrite. Unggah file Excel yang berisi baris header dan dataset lengkap terbaru, dengan catatan yang tidak diinginkan dihapus.
Untuk mendapatkan dataset lengkap, klik ikon
untuk mengunduh data dalam format XLSX. -
Untuk memodifikasi data: Atur jenis impor ke Upload and Overwrite. Unggah file Excel yang berisi baris header dan dataset lengkap yang telah dimodifikasi.
-
-
Langkah 2: Sinkronkan perubahan ke basis pengetahuan
Kembali ke daftar Basis Pengetahuan, temukan basis pengetahuan target, dan klik View Details pada kartunya. Klik ikon
di pojok kiri atas tabel data, lalu konfirmasi prompt untuk menyinkronkan basis pengetahuan.Anda harus mengulangi langkah-langkah ini untuk setiap pembaruan manual.
-
Pencarian audio dan video
-
Pembaruan otomatis
Tidak didukung.
-
Pembaruan manual
Di halaman Basis Pengetahuan, temukan basis pengetahuan yang ingin Anda perbarui dan klik View Details pada kartunya.
-
Untuk menambahkan file baru: Klik Upload Data dan pilih file yang sudah ada dari Data Aplikasi.
-
Untuk menghapus file: Temukan file tersebut dan klik Delete di sebelah kanannya.
Tindakan ini hanya menghapus file dari basis pengetahuan. Tindakan ini tidak memengaruhi file sumber di Data Aplikasi.
-
Untuk memodifikasi konten file: Pembaruan dan penggantian langsung tidak didukung. Pertama, hapus versi lama dari basis pengetahuan, lalu impor versi yang diperbarui.
Catatan: Kegagalan menghapus versi lama dapat menyebabkan hasil pencarian yang usang.
-
Edit basis pengetahuan
Setelah membuat basis pengetahuan, Anda hanya dapat memodifikasi nama basis pengetahuan, deskripsi basis pengetahuan, dan ambang batas kemiripan. Untuk mengubah konfigurasi lainnya, Anda harus menghapus dan membuat ulang basis pengetahuan. Operasi ini hanya tersedia di konsol dan tidak memiliki API yang sesuai.
Prosedur: Di halaman Basis Pengetahuan, temukan basis pengetahuan target, klik ikon
pada kartunya, lalu klik Edit. Catatan: Anda hanya dapat memodifikasi konfigurasi basis pengetahuan sekali per hari kalender. Sistem diam-diam menolak upaya berikutnya pada hari yang sama.
Hapus basis pengetahuan
Tindakan ini tidak dapat dibatalkan. Lanjutkan dengan hati-hati.
Sebelum menghapus basis pengetahuan, kami menyarankan Anda memutuskan kaitannya dari semua aplikasi Model Studio yang dipublikasikan.
Anda masih dapat menghapus basis pengetahuan yang dikaitkan dengan aplikasi yang belum dipublikasikan.
Ubah konfigurasi
Edisi Perusahaan menggunakan RCU untuk kinerja pengambilan data tinggi pada QPS tinggi dan menawarkan kapasitas penyimpanan lebih besar. Edisi Standar cocok untuk pengembangan, pengujian, atau skenario konkurensi rendah.
Anda dapat beralih antara Edisi Standar dan Edisi Perusahaan serta mengubah jumlah RCU untuk Edisi Perusahaan.
Anda hanya dapat mengubah konfigurasi Basis Pengetahuan sekali per hari kalender.
RCU: Retrieval Compute Unit (RCU) adalah ukuran konkurensi pengambilan data Basis Pengetahuan. Satu RCU mendukung sekitar 50 QPS untuk pengambilan data online. Jumlah RCU yang lebih tinggi mendukung konkurensi yang lebih besar.
-
Catatan:
-
Untuk menurunkan spesifikasi Basis Pengetahuan Edisi Perusahaan yang menggunakan penyimpanan platform ke Edisi Standar, Anda harus terlebih dahulu mengurangi ruang penyimpanan yang digunakan menjadi kurang dari 80 GB.
Anda dapat mengosongkan ruang penyimpanan dengan menghapus file atau data dari Basis Pengetahuan.
-
-
Prosedur:
-
Di halaman Basis Pengetahuan, untuk Basis Pengetahuan yang ingin Anda edit, klik ikon
pada kartunya, lalu klik Edit. -
Di kotak dialog, pilih tindakan berdasarkan edisi saat ini:
-
Edisi Standar: Pilih Upgrade.
-
Edisi Perusahaan: Pilih Downgrade atau Ubah Jumlah RCU.
-
-
Ikuti petunjuk di layar. Konfigurasi baru berlaku segera setelah Anda mengklik OK.
-
Hit testing
Gunakan pengujian hit untuk memverifikasi bahwa basis pengetahuan Anda memberikan input pengetahuan yang akurat ke aplikasi AI Anda. Simulasikan kueri pengguna, evaluasi hasil pengambilan data, dan sesuaikan ambang batas kemiripan.
Model penyusunan ulang dalam pengujian hit mendukung tiga mode: mode tanya-jawab (default), dirancang untuk kueri yang tidak cocok sempurna dengan konten dokumen; mode kemiripan, ideal untuk kueri yang sangat mirip dengan konten dokumen; dan mode lanjutan kustom. Skor peringkat untuk kueri yang sama dapat sangat bervariasi tergantung pada mode yang dipilih. Misalnya, segmen teks yang sama mungkin mendapat skor 47% dalam mode tanya-jawab tetapi hingga 69% dalam mode kemiripan.
Dengan pengujian hit, Anda dapat:
-
Memverifikasi bahwa basis pengetahuan memberikan input pengetahuan yang efektif ke aplikasi AI Anda
-
Menyesuaikan ambang batas kemiripan untuk menyeimbangkan tingkat recall dan akurasi
-
Mengidentifikasi celah konten atau masalah kualitas dalam basis pengetahuan Anda
Kasus penggunaan
-
Kasus penggunaan 1: Menanyakan harga produk
Input uji: "Berapa harga ponsel Model Studio Anda?" Hasil yang diharapkan: Ambil segmen teks relevan yang berisi informasi harga. -
Kasus penggunaan 2: Pemecahan masalah teknis
Input uji: "Apa yang harus saya lakukan jika perangkat saya tidak bisa terhubung ke Wi-Fi?" Hasil yang diharapkan: Ambil segmen teks relevan tentang pemecahan masalah koneksi Wi-Fi. -
Kasus penggunaan 3: Pengambilan data dengan pemahaman visual (basis pengetahuan pemahaman visual)
Basis pengetahuan pemahaman visual mendukung tiga mode kueri: teks saja, gambar saja, dan gambar+teks. Mode 1 (teks saja): Masukkan "Object Storage Service" untuk mengambil segmen relevan dari dokumen dan gambar. Mode 2 (gambar saja): Unggah tangkapan layar produk. Sistem menggunakan pemahaman visual untuk mencocokkan segmen yang secara semantik mirip. Mode 3 (gambar+teks): Unggah gambar dan masukkan teks deskriptif. Kueri gabungan dapat meningkatkan kemiripan pengambilan data. -
Kasus penggunaan 4: Tanya-jawab cepat (basis pengetahuan Tanya-jawab cepat)
Basis pengetahuan Tanya-jawab cepat hanya mendukung kueri teks (input gambar tidak didukung) dan ideal untuk pengambilan data cepat dari dokumen terstruktur: Input uji: "Berapa harga Qwen Pro 8?" Hasil yang diharapkan: Cepat ambil segmen FAQ relevan yang mencakup informasi harga.
Prosedur
-
Di halaman basis pengetahuan, temukan basis pengetahuan yang ingin Anda uji dan klik Hit Test pada kartunya.
-
Di antarmuka uji, masukkan pertanyaan (kami menyarankan menggunakan kueri pengguna umum) dan tinjau hasil pengambilan data.
-
Hasil pengambilan data: Bagian ini menampilkan hasil hit dari uji saat ini, diurutkan berdasarkan kemiripan secara menurun. Klik segmen apa pun untuk melihat kontennya.
-
Ikon: Untuk basis pengetahuan Tanya-Jawab Gambar, sistem mengonversi gambar input menjadi vektor untuk mengambil catatan, lalu mengirim catatan tersebut dengan pertanyaan ke LLM untuk jawaban. Sebaliknya, basis pengetahuan pencarian dokumen, kueri data tidak menggunakan gambar yang diunggah untuk pengambilan data. Namun, basis pengetahuan pencarian dokumen dengan kasus penggunaannya diatur ke pemahaman visual menggunakan gambar yang diunggah untuk pengambilan data, mendukung mode kueri teks saja, gambar saja, dan gambar+teks. Dalam konteks ini, kueri gabungan gambar dan teks meningkatkan kemiripan pengambilan data.
-
-
Verifikasi bahwa segmen teks relevan diambil dengan benar. Jika tidak, sesuaikan ambang batas kemiripan dan ulangi langkah sebelumnya.
-
Klik View Recall History untuk membandingkan kinerja pengambilan data dengan pengaturan ambang batas berbeda.
Kuota dan batasan
-
Untuk informasi tentang sumber data yang didukung, kapasitas, dan batasan lainnya, lihat Kuota dan batasan basis pengetahuan.
-
Jumlah maksimum basis pengetahuan per aplikasi Model Studio:
-
Pencarian dokumen: Hingga 5
-
Kueri data: Hingga 5
-
Tanya-Jawab Gambar: Hingga 1
Anda dapat mengaitkan hingga 11 basis pengetahuan jenis berbeda.
-
Penagihan
Fitur basis pengetahuan gratis, tetapi Anda mungkin dikenai biaya untuk memanggil aplikasi Model Studio yang menggunakan basis pengetahuan.
|
Langkah |
Penagihan |
|
|
|
Gratis. |
|
|
|
Saat aplikasi Model Studio mengambil potongan teks dari basis pengetahuan, hal ini meningkatkan jumlah token input LLM dan dapat meningkatkan biaya inferensi model. Untuk informasi lebih lanjut, lihat Item yang dapat ditagih dan harga. Catatan: Anda tidak dikenai biaya jika hanya menggunakan API Ambil untuk mengambil data dari basis pengetahuan dan tidak menggunakan aplikasi Model Studio untuk menghasilkan respons. |
|
|
|
Gratis. |
|
Referensi API
-
Lihat Direktori API (Basis Pengetahuan) untuk daftar lengkap API basis pengetahuan dan parameternya.
-
Lihat Panduan API Basis Pengetahuan untuk penggunaan terperinci dan contoh kode.














