All Products
Search

This Product

    Platform For AI:Chatbot RAG dan pencarian web dengan LangStudio dan DeepSeek

    Document Center

    Platform For AI:Chatbot RAG dan pencarian web dengan LangStudio dan DeepSeek

    Last Updated:Aug 27, 2026

    Bangun Chat Assistant menggunakan alur aplikasi Web Search dan RAG di LangStudio. Alur ini mengintegrasikan pencarian web langsung dan Generasi yang Diperkaya dengan Pengambilan Data (RAG) untuk memberikan akses model ke basis pengetahuan khusus domain sekaligus data web waktu nyata, sehingga menghasilkan jawaban yang lebih akurat.

    Latar Belakang

    Alur aplikasi ini menggabungkan RAG dan pencarian web langsung untuk menghasilkan jawaban yang presisi. Model mengambil pengetahuan khusus domain dan melengkapinya dengan data web waktu nyata—terutama efektif di bidang berpresisi tinggi seperti keuangan dan kesehatan.

    Prasyarat

    • Daftar di situs web resmi SerpApi dan peroleh api_key Anda.

    • Untuk menggunakan Milvus, buat instans Milvus.

      Catatan

      Faiss hanya untuk pengujian dan tidak memerlukan database terpisah. Untuk produksi, gunakan Milvus untuk data berskala besar.

    • Unggah korpus basis pengetahuan RAG ke OSS.

    1. (Opsional) Sebarkan model LLM dan penyematan

    Sebarkan layanan model yang diperlukan dari Model Gallery. Lewati langkah ini jika Anda sudah memiliki layanan model yang kompatibel.

    Buka Panduan Cepat Mulai > Model Gallery dan sebarkan model untuk dua skenario berikut. Penerapan dan Pelatihan Model.

    Penting

    Gunakan LLM yang telah disesuaikan dengan instruksi (instruction-tuned). Model dasar tidak dapat mengikuti instruksi pengguna dengan benar.

    2. Buat koneksi

    Koneksi layanan model LLM dan penyematan dalam panduan ini didasarkan pada layanan EAS yang diterapkan dari QuickStart > Model Gallery. Jenis koneksi dan konfigurasi lainnya dijelaskan dalam Konfigurasi Koneksi.

    2.1 Buat koneksi LLM

    1. Buka LangStudio dan pilih wilayah serta ruang kerja.

    2. Pada tab Connection > Model Service, klik New Connection dan atur parameter berikut:

      • Connection Type: Pilih General LLM Service.

      • Service Provider: Pilih PAI-EAS Model Service.

      • EAS Service: Pilih layanan LLM yang telah Anda terapkan di Langkah 1.

        Setelah Anda memilih layanan tersebut, LangStudio secara otomatis mengisi bidang base_url dan api_key dengan titik akhir VPC dan token dari LLM yang telah diterapkan.

      • Model Name: Nilai parameter model dalam permintaan API OpenAI. Temukan nilai ini di halaman detail model dengan mengklik kartu model di Model Gallery.

      • Tool Call, Structured output, Deep Reasoning, Vision: Aktifkan opsi ini sesuai kemampuan model Anda.

    2.2 Buat koneksi model penyematan

    Buat koneksi model penyematan menggunakan proses yang sama seperti pada Bagian 2.1.

    Pada halaman New Connection, atur Connection Type menjadi General Embedding Model Service dan Service Provider menjadi PAI-EAS Model Service, lalu konfigurasikan parameter berikut:

    • EAS Service: Pilih instans layanan EAS yang telah diterapkan.

    • Model Name: Masukkan nama model, misalnya default.

    • base_url: Masukkan titik akhir layanan EAS.

    • api_key: Masukkan kunci API layanan EAS.

    2.3 Buat koneksi SerpApi

    Pada tab Connection > Custom, klik New Connection untuk membuat koneksi SerpApi. Konfigurasikan api_key yang Anda peroleh di bagian Prasyarat.

    Pada halaman New Connection, atur Name menjadi serp_api_conn. Di bagian Key-Value, tambahkan baris: atur Custom Key menjadi api_key, masukkan kunci API SerpApi di Custom Value, dan centang kotak Secret.

    3. Buat indeks basis pengetahuan

    Buat indeks basis pengetahuan untuk mengurai, memecah, dan mengvektorkan korpus Anda ke dalam database vektor. Parameter utama tercantum di bawah ini. Manajemen Basis Pengetahuan.

    Parameter

    Deskripsi

    Konfigurasi dasar

    Jalur sumber data OSS

    Tentukan jalur OSS ke korpus basis pengetahuan RAG dari bagian Prasyarat.

    Jalur output OSS

    Jalur untuk hasil antara dan data indeks yang dihasilkan selama penguraian dokumen.

    Penting

    Saat Anda menggunakan FAISS, alur menyimpan file indeks ke OSS. Dengan peran PAI default (peran Instance RAM Role yang ditetapkan saat memulai waktu proses), alur dapat mengakses bucket penyimpanan default ruang kerja Anda. Atur parameter ini ke direktori dalam bucket OSS yang sama dengan jalur penyimpanan default ruang kerja. Jika Anda menggunakan peran kustom, berikan izin akses OSS (disarankan AliyunOSSFullAccess). Kelola Izin Peran RAM.

    Model penyematan dan database

    Jenis penyematan

    Pilih General Embedding Model Service.

    Koneksi penyematan

    Pilih koneksi layanan model penyematan yang telah Anda buat di Bagian 2.2.

    Jenis database vektor

    Pilih FAISS. Panduan ini menggunakan FAISS sebagai contoh.

    4. Buat dan jalankan alur aplikasi

    1. Buka LangStudio, pilih ruang kerja, buka tab Application Flows, lalu klik New Application Flow untuk membuat Chat Assistant dengan alur Web Search dan RAG.

    2. Di sudut kanan atas, klik Select Runtime dan pilih waktu proses. Waktu proses yang sedang berjalan diperlukan untuk mengurai node Python atau melihat lebih banyak alat.

      Jika tidak tersedia waktu proses, buka tab Runtime di halaman LangStudio dan klik New Runtime untuk membuatnya. Parameter utama:

      Konfigurasi VPC: Jika Anda memilih Milvus di Langkah 3, gunakan VPC yang sama dengan instans Milvus atau VPC yang saling terhubung. FAISS tidak memerlukan konfigurasi VPC.

    3. Kembangkan alur aplikasi.

      image

      Biarkan pengaturan lainnya tetap pada nilai default atau sesuaikan sesuai kebutuhan. Konfigurasi node utama:

      • Knowledge Base Retrieval: Mengambil teks relevan dari basis pengetahuan.

        • Nama Indeks Basis Pengetahuan: Pilih indeks basis pengetahuan yang telah Anda buat di Langkah 3.

        • Top K: Mengembalikan K hasil pencocokan teratas.

      • Serp Search: Melakukan pencarian web melalui SerpApi dan mengembalikan hasilnya.

        • Koneksi SerpApi: Pilih koneksi SerpApi yang telah Anda buat di Bagian 2.3.

        • Mesin Pencari: Mendukung Bing, Google, Baidu, Yahoo, dan input kustom. Mesin yang didukung beserta parameternya didokumentasikan di situs web resmi SerpApi.

      • Large Model Node: Mengirimkan dokumen yang diambil dan hasil pencarian sebagai konteks bersama kueri pengguna ke LLM untuk menghasilkan respons.

        • Pengaturan Model: Pilih koneksi yang telah Anda buat di Bagian 2.1.

        • Riwayat Percakapan: Mengaktifkan riwayat percakapan sebagai variabel input.

      Referensi Komponen Preset.

    4. Di pojok kanan atas, klik Run untuk menjalankan alur aplikasi. Atasi masalah umum di FAQ.

    5. Di bawah jawaban yang dihasilkan, klik View Traces untuk melihat detail jejak atau tampilan topologi.

    5. Sebarkan alur aplikasi

    Di halaman pengembangan alur aplikasi, klik Deploy di pojok kanan atas untuk menyebarkan alur sebagai layanan EAS. Parameter utama:

    • Resource Information > Instances: Konfigurasikan jumlah instans layanan. Untuk pengujian, atur menjadi 1. Untuk produksi, gunakan beberapa instans untuk mencegah single point of failure.

    • VPC > VPC: SerpApi memerlukan akses internet publik, jadi konfigurasikan VPC dengan kemampuan ini — layanan EAS tidak memiliki kemampuan tersebut secara default. Aktifkan Layanan EAS untuk Mengakses Sumber Daya Publik atau Internal. Jika Anda memilih Milvus di Langkah 3, gunakan VPC yang sama dengan instans Milvus atau pastikan VPC saling terhubung.

    Menyebarkan Alur Aplikasi.

    6. Panggil layanan

    Setelah penerapan, Anda akan diarahkan ke konsol PAI-EAS. Pada tab Debug, kirim permintaan. Kunci badan permintaan harus sesuai dengan bidang Conversation Input di node Start alur aplikasi. Nama bidang default adalah question.

    Metode pemanggilan lainnya, termasuk panggilan API, dijelaskan dalam Menyebarkan Alur Aplikasi - Memanggil Layanan.

    Dokumen terkait