Platform For AI:Terapkan sistem chat LLM RAG di PAI-EAS

Siapkan instans Elasticsearch

Jika belum tersedia instans Elasticsearch, login ke Konsol Alibaba Cloud Elasticsearch dan buat instans dengan pengaturan berikut. Untuk detailnya, lihat Buat instans Alibaba Cloud Elasticsearch.

• Region and availability zone: Wilayah yang sama dengan layanan PAI-EAS Anda.

• VPC: VPC yang sama dengan layanan PAI-EAS Anda untuk akses jaringan internal.

• Instance type: Pilih Standard.

• Scenario initialization configuration: Pilih General-purpose.

Konfigurasi layanan

• Vector Database Type: Pilih Elasticsearch.

• Private Endpoint and Port: Titik akhir pribadi dan port dari bagian Informasi Dasar pada halaman detail instans. Format: http://<Alamat IP pribadi>:<port>.

• Index Name: Perilaku tergantung pada nama yang Anda masukkan.

  • Nama baru: PAI-EAS secara otomatis membuat indeks yang kompatibel dengan PAI-RAG selama deployment.

    Penting

    Secara default, Alibaba Cloud Elasticsearch tidak mengizinkan pembuatan Indeks otomatis. Untuk mengaktifkannya, buka halaman Configuration Management > ES Cluster Configuration, klik Modify Configurations, perbarui file YML, lalu atur Auto Index Creation ke Allowed. Untuk informasi selengkapnya, lihat Mengonfigurasi parameter YML.

  • Nama yang sudah ada: PAI-EAS menggunakan indeks yang sudah ada. Pastikan indeks tersebut dibuat oleh layanan PAI-RAG agar strukturnya kompatibel.

• Account dan Password: Username dan password yang dikonfigurasi saat membuat instans Elasticsearch. Username default: elastic. Untuk mengatur ulang password, lihat Atur ulang password instans.

• OSS Path: Direktori penyimpanan OSS yang sudah ada di wilayah saat ini untuk manajemen file basis pengetahuan.

Manajemen indeks dengan Kibana

Untuk manajemen indeks, lihat Hubungkan ke kluster Elasticsearch menggunakan klien Kibana.

Siapkan instans OpenSearch Vector Search Edition

Jika belum tersedia instans OpenSearch, login ke Konsol OpenSearch dan buat instans dengan pengaturan berikut. Untuk detailnya, lihat Beli instans OpenSearch Vector Search Edition.

• Product Version: Pilih Vector Search Edition.

• Region and availability zone dan VPC: OpenSearch hanya mendukung akses internet publik. Pengaturan ini tidak perlu sesuai dengan layanan PAI-EAS Anda.

Konfigurasi layanan

• Vector Database Type: Pilih OpenSearch.

• Endpoint: Titik akhir publik instans OpenSearch Vector Search Edition Anda.

  Catatan

  Aktifkan akses publik untuk instans OpenSearch Vector Search Edition dan tambahkan alamat IP publik EAS ke daftar izin (allowlist).

• Instance ID: ID instans dari daftar instans OpenSearch Vector Search Edition.

• Username dan Password: Username dan password yang dikonfigurasi saat membuat instans OpenSearch Vector Search Edition.

• Table Name: Buat tabel indeks yang kompatibel terlebih dahulu. Lihat Konfigurasi instans dan gunakan parameter kunci berikut:

  • Pilih templat skenario tujuan umum dan impor file konfigurasi berikut untuk menentukan bidang.

    File konfigurasi bidang

    {
    	"schema": {
    		"summarys": {
    			"parameter": {
    				"file_compressor": "zstd"
    			},
    			"summary_fields": [
    				"id",
    				"embedding",
    				"file_path",
    				"file_name",
    				"file_type",
    				"node_content",
    				"node_type",
    				"doc_id",
    				"text",
    				"source_type"
    			]
    		},
    		"file_compress": [
    			{
    				"name": "file_compressor",
    				"type": "zstd"
    			},
    			{
    				"name": "no_compressor",
    				"type": ""
    			}
    		],
    		"indexs": [
    			{
    				"index_fields": [
    					{
    						"boost": 1,
    						"field_name": "id"
    					},
    					{
    						"boost": 1,
    						"field_name": "embedding"
    					}
    				],
    				"indexer": "aitheta2_indexer",
    				"index_name": "embedding",
    				"parameters": {
    					"enable_rt_build": "true",
    					"min_scan_doc_cnt": "20000",
    					"vector_index_type": "Qc",
    					"major_order": "col",
    					"builder_name": "QcBuilder",
    					"distance_type": "SquaredEuclidean",
    					"embedding_delimiter": ",",
    					"enable_recall_report": "true",
    					"ignore_invalid_doc": "true",
    					"is_embedding_saved": "false",
    					"linear_build_threshold": "5000",
    					"dimension": "1536",
    					"rt_index_params": "{\"proxima.oswg.streamer.segment_size\":2048}",
    					"search_index_params": "{\"proxima.qc.searcher.scan_ratio\":0.01}",
    					"searcher_name": "QcSearcher",
    					"build_index_params": "{\"proxima.qc.builder.quantizer_class\":\"Int8QuantizerConverter\",\"proxima.qc.builder.quantize_by_centroid\":true,\"proxima.qc.builder.optimizer_class\":\"BruteForceBuilder\",\"proxima.qc.builder.thread_count\":10,\"proxima.qc.builder.optimizer_params\":{\"proxima.linear.builder.column_major_order\":true},\"proxima.qc.builder.store_original_features\":false,\"proxima.qc.builder.train_sample_count\":3000000,\"proxima.qc.builder.train_sample_ratio\":0.5}"
    				},
    				"index_type": "CUSTOMIZED"
    			},
    			{
    				"has_primary_key_attribute": true,
    				"index_fields": "id",
    				"is_primary_key_sorted": false,
    				"index_name": "id",
    				"index_type": "PRIMARYKEY64"
    			},
    			{
    				"index_fields": "file_path",
    				"index_name": "file_path",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_name",
    				"index_name": "file_name",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_type",
    				"index_name": "file_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_content",
    				"index_name": "node_content",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_type",
    				"index_name": "node_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "doc_id",
    				"index_name": "doc_id",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "text",
    				"index_name": "text",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "source_type",
    				"index_name": "source_type",
    				"index_type": "STRING"
    			}
    		],
    		"attributes": [
    			{
    				"file_compress": "no_compressor",
    				"field_name": "id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "embedding"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_path"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_name"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_content"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "doc_id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "text"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "source_type"
    			}
    		],
    		"fields": [
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "id"
    			},
    			{
    				"user_defined_param": {
    					"multi_value_sep": ","
    				},
    				"multi_value": true,
    				"compress_type": "uniq",
    				"field_type": "FLOAT",
    				"field_name": "embedding"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_path"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_name"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_content"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "doc_id"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "text"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "source_type"
    			}
    		],
    		"table_name": "abc"
    	},
    	"extend": {
    		"description": [],
    		"vector": [
    			"embedding"
    		],
    		"embeding": []
    	}
    }

  • Pada Index Schema, pastikan dimensi vektor sesuai dengan dimensi model penyematan. Untuk Distance Type, pilih InnerProduct.

Kelola tabel indeks dan data

1. Login ke Konsol Alibaba Cloud OpenSearch Vector Search Edition dan klik ID instans yang telah Anda buat untuk membuka halaman Instance Details.

2. Buka halaman manajemen tabel. Untuk detailnya, lihat Manajemen tabel.

3. Pada halaman manajemen vektor, jalankan uji kueri dan kelola data. Untuk detailnya, lihat Manajemen vektor.

Siapkan instans RDS for PostgreSQL

1. Jika belum tersedia instans RDS for PostgreSQL, buka halaman pembuatan instans RDS, konfigurasikan parameter kunci berikut, dan ikuti petunjuk di layar. Untuk detailnya, lihat Buat instans ApsaraDB RDS for PostgreSQL.

   • Engine: Pilih PostgreSQL.

   • VPC: VPC yang sama dengan layanan PAI-EAS Anda untuk akses jaringan internal.

   • Privileged Account: Di Advanced Settings, pilih Set Now dan konfigurasikan akun database dan password.

2. Buat database.

   1. Klik nama instans. Di panel navigasi kiri, klik Database Management, lalu klik Create Database.

   2. Pada panel Create Database, konfigurasikan Database (DB) Name. Untuk Authorized Account, pilih akun istimewa. Untuk parameter lainnya, lihat Buat database dan akun.

   3. Klik Create.

Konfigurasi layanan

Sebelum memulai, buat instans RDS for PostgreSQL.

• Vector Database Type: Pilih RDS PostgreSQL.

• Host address: Titik akhir internal instans RDS for PostgreSQL Anda, tersedia di halaman Database Connection di Konsol ApsaraDB RDS for PostgreSQL.

• Port: Default: 5432. Masukkan port aktual jika berbeda.

• Database: Authorized Account harus berupa Privileged Account. Lihat Buat database dan akun. Pasang ekstensi vector dan jieba untuk database.

• Table Name: Nama tabel database kustom.

• Account dan Password: Nama pengguna dan kata sandi yang sah yang dikonfigurasi saat membuat database. Untuk membuat akun istimewa, lihat Membuat database dan akun, lalu pilih Privileged Account sebagai Account Type.

• OSS Path: Direktori penyimpanan OSS yang sudah ada di wilayah saat ini untuk manajemen file basis pengetahuan.

Manajemen database RDS for PostgreSQL

1. Buka daftar instans RDS, alihkan ke wilayah instans Anda, lalu klik nama instans.

2. Di panel navigasi kiri, pilih Database Management. Di kolom Actions, klik SQL Query.

3. Masukkan Database Account dan Database Password (kredensial akun istimewa), lalu klik Sign in.

4. Kueri basis pengetahuan yang diimpor.