Platform For AI：Gunakan LangStudio dan Alibaba Cloud IQS untuk membuat alur aplikasi berbasis DeepSeek dan pencarian web

Informasi latar belakang

Di era ledakan informasi, memperoleh informasi yang real-time dan akurat sangat penting dalam banyak skenario aplikasi. Alur aplikasi "chatbot berbasis pencarian web IQS" menggabungkan teknologi pencarian real-time dengan kemampuan pemrosesan bahasa alami untuk menyediakan solusi yang efisien dan cerdas. Dengan mengintegrasikan fitur pencarian real-time dari Alibaba Cloud IQS, alur aplikasi dapat langsung mengambil informasi terbaru dari web saat pengguna mengajukan pertanyaan, sehingga model mampu menghasilkan jawaban yang lebih akurat dan tepat waktu. Kombinasi ini tidak hanya meningkatkan akurasi jawaban, tetapi juga memperluas kemampuan akses terhadap informasi terkini. Pengembang dapat secara fleksibel memperluas dan menyesuaikan templat alur aplikasi yang disediakan oleh LangStudio untuk aplikasi profesional di bidang seperti keuangan, pendidikan, dan berita yang memerlukan pembaruan informasi real-time.

Prasyarat

• Anda telah mengaktifkan Alibaba Cloud IQS dengan menghubungi manajer akun Anda.

  Alur aplikasi "chatbot berbasis pencarian web IQS" memerlukan fitur pencarian standar Alibaba Cloud IQS untuk mengambil informasi berdasarkan pernyataan kueri tertentu.

• (Opsional) Anda telah membuat peran RAM dan menyambungkan kebijakan berikut ke dalamnya untuk kebutuhan keamanan data. Peran ini diperlukan saat Anda memulai waktu proses dan menerapkan alur aplikasi.

  • AliyunIQSFullAccess

  • AliyunOSSFullAccess

  • AliyunPAIFullAccess

  Selain itu, Anda telah mengubah entitas tepercaya peran ini menjadi Platform for AI (PAI) dan Elastic Algorithm Service (EAS). Contoh kode berikut memberikan contoh kebijakan kepercayaan:

  {
    "Statement": [
      {
        "Action": "sts:AssumeRole",
        "Effect": "Allow",
        "Principal": {
          "Service": "pai.aliyuncs.com"
        }
      },
      {
        "Action": "sts:AssumeRole",
        "Effect": "Allow",
        "Principal": {
          "Service": "eas.pai.aliyuncs.com"
        }
      }
    ],
    "Version": "1"
  }

1. (Opsional) Penerapan model bahasa besar

Alur aplikasi "chatbot berbasis pencarian web IQS" memerlukan layanan model bahasa besar (LLM). Jika Anda sudah memiliki layanan model yang memenuhi persyaratan dan mendukung API OpenAI, lewati langkah ini dan gunakan layanan yang sudah ada secara langsung. Dalam topik ini, model DeepSeek-R1 digunakan. Anda dapat memilih Panduan Cepat Mulai > Model Gallery untuk menerapkan model tersebut. Untuk informasi selengkapnya tentang penerapan, lihat Penerapan satu-klik model DeepSeek-V3 dan DeepSeek-R1 dan Menerapkan dan melatih model.

2. Buat koneksi layanan LLM

Dalam topik ini, layanan model EAS yang diterapkan menggunakan LLM di QuickStart > Model Gallery digunakan untuk membuat koneksi. Untuk informasi tentang jenis koneksi lainnya dan detailnya, lihat Mengonfigurasi koneksi.

Buka LangStudio, pilih ruang kerja, lalu klik Enter LangStudio. Kemudian, klik tab Connection. Di tab Model Service pada panel Connection, klik New Connection.

Tabel berikut menjelaskan parameter utama.

3. Buat dan jalankan alur aplikasi

1. Buka LangStudio, pilih ruang kerja, lalu klik Enter LangStudio. Di tab Application Flow, klik Create Application Flow untuk membuat alur aplikasi "chatbot berbasis pencarian web IQS".

   

2. Di halaman detail alur aplikasi, klik Create Runtime di pojok kanan atas. Di panel Create Runtime, konfigurasikan parameter. Catatan: Untuk mengurai node Python atau melihat lebih banyak alat, Anda harus memastikan bahwa waktu proses telah dimulai.

   

   Perhatikan parameter berikut:

   Peran RAM Instans: Jika Anda memiliki persyaratan keamanan data, pilih Custom Roles untuk parameter Instance RAM Role dan pilih peran RAM yang telah Anda buat di Prasyarat untuk parameter RAM Role. Jika Anda tidak memiliki persyaratan keamanan, pertahankan konfigurasi default.

3. Kembangkan alur aplikasi.

   

   Bagian berikut menjelaskan konfigurasi node utama. Pertahankan konfigurasi default untuk node lainnya atau sesuaikan sesuai kebutuhan bisnis Anda.

   • Pencarian Alibaba Cloud IQS: Gunakan Alibaba Cloud IQS untuk mengambil informasi berdasarkan pernyataan kueri tertentu.

     • Rentang Waktu: Pilih rentang waktu untuk mengkueri data.

     • (Opsional) Koneksi IQS: Jika Anda memiliki persyaratan keamanan data, Anda dapat mengosongkan parameter ini. Jika tidak, Anda dapat memilih koneksi IQS yang telah dikonfigurasi. Untuk informasi tentang cara mengonfigurasi koneksi IQS, lihat Koneksi kustom. Konfigurasikan kunci dan nilai sebagai api_key dan nilai yang sesuai. Untuk informasi tentang cara mendapatkan nilai tersebut, lihat Manajemen kredensial IQS.

   • LLM: Panggil LLM untuk menjawab pertanyaan atau memproses bahasa alami.

     • Konfigurasi Model: Pilih koneksi yang telah Anda buat di 2. Buat koneksi layanan LLM.

     • Riwayat Obrolan: Tentukan apakah akan mengaktifkan fitur riwayat obrolan untuk menggunakan informasi riwayat sebagai variabel input.

   Untuk informasi selengkapnya tentang setiap node, lihat Lampiran: Deskripsi komponen bawaan.

4. Klik Run di pojok kanan atas untuk mengeksekusi alur aplikasi. Untuk informasi tentang masalah umum terkait waktu proses alur aplikasi, lihat FAQ.

   

5. Klik View Logs di bagian jawaban yang dihasilkan untuk melihat detail jejak atau topologi.

   

4. Terapkan alur aplikasi

Di halaman detail alur aplikasi, klik Deploy di pojok kanan atas untuk menerapkan alur aplikasi sebagai layanan EAS. Bagian berikut menjelaskan parameter utama. Pertahankan konfigurasi default untuk parameter penerapan lainnya atau sesuaikan sesuai kebutuhan bisnis Anda.

• Informasi Sumber Daya > Instans: Konfigurasikan jumlah instans layanan. Penerapan dalam topik ini hanya untuk tujuan pengujian, sehingga jumlah instans diatur menjadi 1. Di lingkungan produksi, kami menyarankan Anda mengonfigurasi beberapa instans layanan untuk mengurangi risiko kegagalan titik tunggal.

• VPC > VPC (VPC): Fitur pencarian web bergantung pada Alibaba Cloud IQS yang hanya tersedia di wilayah Tiongkok (Zhangjiakou), Tiongkok (Beijing), dan Tiongkok (Shanghai). Jika alur aplikasi Anda tidak diterapkan di wilayah-wilayah tersebut, Anda harus mengonfigurasi VPC yang mendukung akses melalui Internet karena layanan EAS tidak dapat diakses melalui Internet secara default. Untuk informasi selengkapnya, lihat Aktifkan akses internet untuk layanan EAS.

• Peran dan Izin > Peran RAM Instans: Jika Anda memiliki persyaratan keamanan data, pilih Custom Roles dan pilih peran RAM yang telah Anda buat di Prasyarat untuk parameter RAM Role. Jika tidak, pertahankan konfigurasi default.

Untuk informasi selengkapnya, lihat Menerapkan alur aplikasi.

5. Panggil layanan

Setelah penerapan berhasil, tab Overview di halaman detail layanan EAS akan muncul. Kemudian, klik tab Online Debugging untuk mengonfigurasi dan mengirim permintaan. Nilai Key dalam badan permintaan harus sama dengan nilai parameter Chat Input di Node Awal alur aplikasi. Dalam topik ini, bidang default question digunakan.

Untuk informasi selengkapnya tentang metode pemanggilan (seperti pemanggilan API) dan petunjuk rinci, lihat Memanggil layanan.

Referensi

• FAQ

• Mengelola waktu proses

• Mengonfigurasi koneksi

• Mengelola indeks basis pengetahuan

• Pengembangan Alur Aplikasi

• Menerapkan alur aplikasi