Platform For AI:Pengelolaan Basis Pengetahuan

Cara kerjanya

Fungsi utama basis pengetahuan LangStudio adalah mengonversi file dari sumber data OSS ke format yang dapat diambil oleh model bahasa besar. Alur kerja ini terdiri dari tiga langkah inti:

1. Pembacaan dan pemisahan data: Sistem membaca file sumber dari path OSS yang Anda tentukan.

   • Dokumen tidak terstruktur: Dokumen ini diurai dan dipisah menjadi potongan teks yang lebih kecil namun semantiknya lengkap.

   • Data terstruktur: Data ini dipotong per baris.

   • Citra: Citra tidak dipotong dan diproses secara utuh.

2. Vektorisasi (Penyematan): Sistem memanggil model penyematan untuk mengonversi setiap potongan data atau citra menjadi vektor numerik yang merepresentasikan makna semantiknya.

3. Penyimpanan dan pengindeksan: Sistem menyimpan data vektor yang dihasilkan dalam database vektor dan membuat indeks untuk pengambilan yang efisien.

Mulai cepat: Buat dan gunakan basis pengetahuan

Bagian ini memberikan panduan cepat untuk membuat basis pengetahuan jenis dokumen dan menggunakannya dalam alur kerja.

1. Buat basis pengetahuan. Buka LangStudio dan pilih ruang kerja. Pada tab Knowledge Base, klik Create Knowledge Base. Konfigurasikan parameter utama berikut, biarkan parameter lain pada nilai default-nya, lalu klik OK.

   Parameter		Deskripsi
   Basic Configuration	Name	Masukkan nama kustom untuk basis pengetahuan, misalnya test_kg.
   	Data Source OSS Path	Lokasi tempat file sumber basis pengetahuan disimpan. Contoh: oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/original/.
   	Output OSS Path	Menyimpan hasil antara dan informasi indeks yang dihasilkan dari penguraian dokumen. Output akhir bergantung pada jenis database vektor yang dipilih. Contoh: oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/output/. Penting Jika Instance RAM Role yang ditetapkan untuk waktu proses adalah peran default PAI, kami menyarankan agar Anda mengatur parameter ini ke direktori dalam path penyimpanan default ruang kerja saat ini's OSS Bucket.
   	Type	Pilih Document.
   Embedding Model and Database	Embedding Type	Pilih Alibaba Cloud Model Studio Service (Anda harus membuat koneksi terlebih dahulu, lihat Connection Configuration), lalu pilih koneksi dan model yang telah dibuat.
   	Vector Database Type	Pilih FAISS untuk pengujian cepat.

2. Unggah file.

   1. Pada tab Knowledge Base, klik basis pengetahuan yang baru saja Anda buat. Pada halaman Overview, beralih ke tab Documents. Tab ini menampilkan dokumen dari path OSS yang ditentukan sebagai sumber data basis pengetahuan.

   2. Anda dapat menambah atau memperbarui file dengan mengklik tombol Upload pada halaman atau dengan mengunggah file langsung ke path OSS sumber data. Misalnya, Anda dapat mengunggah rag_test_doc.txt dari halaman. Untuk informasi selengkapnya tentang format file yang didukung, lihat Knowledge Base Types.

      

3. Perbarui indeks. Setelah Anda mengunggah file, klik Update Index di pojok kanan atas dan konfigurasikan sumber daya komputasi serta jaringan pada halaman yang muncul. Ketika tugas pembaruan indeks selesai, status file berubah menjadi Indexed. Anda kemudian dapat mengklik file tersebut untuk melihat pratinjau potongan dokumen. Untuk basis pengetahuan citra, daftar citra akan dikembalikan sebagai gantinya.

   Catatan

   Untuk potongan dokumen yang sudah tersimpan di Milvus, Anda dapat mengatur statusnya secara individual menjadi Aktif atau Nonaktif. Potongan yang dinonaktifkan tidak akan diambil.

   

4. Uji pengambilan. Setelah indeks diperbarui, beralihlah ke tab Recall Test, masukkan pertanyaan, dan sesuaikan parameter pengambilan untuk menguji performa.

   

5. Gunakan basis pengetahuan dalam alur aplikasi. Setelah pengujian selesai, Anda dapat mengambil informasi dari basis pengetahuan dalam alur aplikasi. Di node basis pengetahuan, Anda dapat mengaktifkan fitur penulisan ulang kueri dan penyusunan ulang hasil serta melihat kueri yang telah ditulis ulang di detail eksekusi node.

   

   Hasilnya berupa List[Dict], di mana setiap kamus berisi content dari potongan dokumen dan score kesamaannya dengan kueri input.

   [
     {
       "score": 0.8057173490524292,
       "content": "Due to the uncertainty caused by the pandemic, XX Bank proactively increased provisions for impairment losses on loans, advances, and non-credit assets based on economic trends and forecasts for China or the Chinese mainland. The bank also increased the write-off and disposal of non-performing assets to improve the provision coverage ratio. In 2020, the net profit reached 28.928 billion CNY, a year-on-year increase of 2.6%, and profitability gradually improved.\n(CNY in millions) 2020 2019 Change (%)\nOperating Results and Profitability\nOperating Income 153,542 137,958 11.3\nOperating Profit Before Impairment Losses 107,327 95,816 12.0\nNet Profit 28,928 28,195 2.6\nCost-to-Income Ratio(1)(%) 29.11 29.61 down 0.50 percentage points\nAverage Return on Total Assets (%) 0.69 0.77 down 0.08 percentage points\nWeighted Average Return on Equity (%) 9.58 11.30 down 1.72 percentage points\nNet Interest Margin(2)(%) 2.53 2.62 down 0.09 percentage points\nNote: (1) Cost-to-Income Ratio = Business and management fees / Operating income.",
       "id": "49f04c4cb1d48cbad130647bd0d75f***1cf07c4aeb7a5d9a1f3bda950a6b86e",
       "metadata": {
         "page_label": "40",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     },
     {
       "score": 0.7708036303520203,
       "content": "7.2 billion CNY, a year-on-year increase of 5.2%.\n2020\n(CNY in millions) Life and Health Insurance Business, Property and Casualty Insurance Business, Banking Business, Trust Business, Securities Business, Other Asset Management Business, Technology Business, Other Business and Consolidation Elimination, Group Consolidated\nNet profit attributable to shareholders of the parent company 95,018 16,083 16,766 2,476 2,959 5,737 7,936 (3,876) 143,099\nMinority interest 1,054 76 12,162 3 143 974 1,567 281 16,260\nNet profit (A) 96,072 16,159 28,928 2,479 3,102 6,711 9,503 (3,595) 159,359\nItems excluded:\n Short-term investment fluctuation(1)(B) 10,308 – – – – – – – 10,308\n Impact of discount rate change (C) (7,902) – – – – – – – (7,902)\n One-time significant items and others excluded by management as not part of daily operating income and expenditure (D) – – – – – – 1,282 – 1,282\nOperating profit (E=A-B-C-D) 93,666 16,159 28,928 2,479 3,102 6,711 8,221 (3,595) 155,670\nOperating profit attributable to shareholders of the parent company 92,672 16,",
       "id": "8066c16048bd722d030a85ee8b1***36d5f31624b28f1c0c15943855c5ae5c9f",
       "metadata": {
         "page_label": "19",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XXX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     }
   ]

Detail fitur

Pengaturan parameter pengambilan

• Top K: Jumlah maksimum potongan teks yang relevan untuk diambil dari basis pengetahuan. Nilainya berkisar antara 1 hingga 100.

• Ambang Batas Skor: Ambang batas skor kesamaan, yang berkisar dari 0 hingga 1. Hanya potongan dengan skor di atas ambang ini yang dikembalikan. Nilai yang lebih tinggi menunjukkan persyaratan kesamaan yang lebih ketat antara teks dan kueri.

• Pola Pengambilan: Pola default adalah Dense (pencarian vektor). Jika Anda ingin menggunakan pencarian Hybrid (vektor dan kata kunci), database vektor Anda harus Milvus 2.4.x atau lebih baru, atau Elasticsearch. Untuk informasi selengkapnya tentang cara memilih pola pengambilan, lihat Pilih mode pengambilan.

• Kondisi filter metadata: Memfilter cakupan pengambilan menggunakan metadata untuk meningkatkan akurasi. Untuk informasi selengkapnya, lihat Gunakan metadata.

• Penulisan ulang kueri: Menggunakan model bahasa besar untuk mengoptimalkan kueri pengguna yang samar, informal, atau kontekstual. Proses ini memperjelas maksud pengguna dengan membuat kueri lebih jelas dan lengkap, sehingga meningkatkan akurasi pengambilan. Untuk informasi selengkapnya tentang skenario penggunaan, lihat Penulisan ulang kueri.

• Penyusunan ulang hasil: Menyusun ulang hasil pengambilan awal menggunakan model penyusunan ulang untuk menempatkan hasil paling relevan di posisi teratas. Untuk informasi selengkapnya tentang skenario penggunaan, lihat Penyusunan ulang hasil.

  Catatan

  Penyusunan ulang hasil memerlukan model penyusunan ulang. Jenis koneksi layanan model yang didukung meliputi layanan model bahasa besar Model Studio, layanan model AI Search Open Platform, dan layanan model reranker umum.

Pemecahan masalah

Jika tugas pembaruan indeks atau kloning versi gagal, ikuti langkah-langkah berikut untuk memecahkan masalah:

1. Lihat catatan operasi: Di halaman detail basis pengetahuan, temukan tugas yang gagal di bawah Operation Records dan klik View Task.

2. Periksa log tugas: Sistem akan mengarahkan Anda ke halaman alur kerja PAI. Periksa log node yang gagal.Misalnya, tugas alur kerja untuk memperbarui indeks basis pengetahuan dokumen mencakup tiga node berikut. Kecuali node read-oss-file, setiap node membuat tugas PAI-DLC. Anda juga dapat melihat detail tugas DLC menggunakan Job URL dalam log.

   • read-oss-file: Membaca file OSS.

   • rag-parse-chunk: Menangani pra-pemrosesan dokumen dan pembagian potongan.

   • rag-sync-index: Menangani penyematan potongan teks dan sinkronisasi ke database vektor.

Optimasi Pengambilan