Platform For AI:Menyebarkan sistem percakapan RAG model besar di PAI-EAS

Siapkan instans Elasticsearch

Jika Anda belum memiliki instans Elasticsearch, masuk ke Konsol Alibaba Cloud Elasticsearch dan buat satu dengan pengaturan berikut. Untuk informasi lebih lanjut, lihat Buat kluster Alibaba Cloud Elasticsearch.

• Region and availability zone: Pilih wilayah yang sama dengan layanan EAS Anda.

• VPC: Pilih VPC yang sama dengan layanan EAS Anda agar dapat diakses melalui jaringan internal.

• Instance type: Pilih Standard.

• Scenario initialization configuration: Pilih General-purpose.

Konfigurasi layanan

• Vector Database Type: Pilih Elasticsearch.

• Private Endpoint and Port: Buka halaman detail instans Elasticsearch. Di bagian informasi dasar, temukan titik akhir internal dan port. Gunakan format http://<private_endpoint>:<port>.

• Index Name: Sistem melakukan tindakan berbeda berdasarkan input Anda.

  • Masukkan nama baru: EAS secara otomatis membuat indeks yang kompatibel dengan PAI-RAG selama penerapan.

    Penting

    Secara default, Alibaba Cloud Elasticsearch tidak mengizinkan pembuatan indeks otomatis. Pada halaman instans Configuration Management > Cluster Configuration, klik Modify Configurations, perbarui file YML, lalu atur Auto Index Creation ke Allowed. Untuk langkah-langkah selengkapnya, lihat Mengonfigurasi parameter YML.

  • Masukkan nama yang sudah ada: EAS menggunakan indeks yang sudah ada. Pastikan indeks tersebut dibuat oleh layanan PAI-RAG untuk menjamin kompatibilitas struktural.

• Account dan Password: Username dan password yang Anda konfigurasi saat membuat instans Elasticsearch. Username default adalah elastic. Jika lupa password, lihat Reset password instans.

• OSS Path: Pilih direktori penyimpanan OSS yang sudah ada di wilayah saat ini. Manajemen basis pengetahuan bergantung pada path OSS yang dimount ini.

Kelola indeks dengan Kibana

Elasticsearch menyediakan fitur manajemen indeks. Untuk informasi lebih lanjut, lihat Sambungkan ke kluster Elasticsearch menggunakan klien Kibana.

Siapkan instans OpenSearch Vector Search Edition

Jika Anda belum memiliki instans OpenSearch, masuk ke Konsol OpenSearch dan buat satu dengan pengaturan berikut. Untuk informasi lebih lanjut, lihat Beli instans OpenSearch Vector Search Edition.

• Product version: Pilih Vector Search Edition.

• Region and availability zone dan VPC: OpenSearch hanya mendukung akses melalui internet publik, sehingga pengaturan ini tidak perlu sesuai dengan layanan EAS Anda.

Konfigurasi layanan

• Vector Database Type: Pilih OpenSearch.

• Endpoint: Titik akhir publik instans OpenSearch Vector Search Edition Anda.

  Catatan

  Anda harus mengaktifkan akses publik untuk instans OpenSearch Vector Search Edition dan menambahkan alamat IP publik EAS ke daftar izin.

• Instance ID: Dapatkan ID instans dari daftar instans OpenSearch Vector Search Edition.

• Username dan Password: Username dan password yang Anda masukkan saat membuat instans OpenSearch Vector Search Edition.

• Table Name: Anda harus terlebih dahulu membuat tabel indeks yang kompatibel. Lihat Konfigurasi instans untuk langkah-langkah pembuatan, menggunakan parameter kunci berikut:

  • Untuk templat skenario, pilih templat tujuan umum dan gunakan JSON berikut untuk mengonfigurasi field.

    File konfigurasi field

    {
    	"schema": {
    		"summarys": {
    			"parameter": {
    				"file_compressor": "zstd"
    			},
    			"summary_fields": [
    				"id",
    				"embedding",
    				"file_path",
    				"file_name",
    				"file_type",
    				"node_content",
    				"node_type",
    				"doc_id",
    				"text",
    				"source_type"
    			]
    		},
    		"file_compress": [
    			{
    				"name": "file_compressor",
    				"type": "zstd"
    			},
    			{
    				"name": "no_compressor",
    				"type": ""
    			}
    		],
    		"indexs": [
    			{
    				"index_fields": [
    					{
    						"boost": 1,
    						"field_name": "id"
    					},
    					{
    						"boost": 1,
    						"field_name": "embedding"
    					}
    				],
    				"indexer": "aitheta2_indexer",
    				"index_name": "embedding",
    				"parameters": {
    					"enable_rt_build": "true",
    					"min_scan_doc_cnt": "20000",
    					"vector_index_type": "Qc",
    					"major_order": "col",
    					"builder_name": "QcBuilder",
    					"distance_type": "SquaredEuclidean",
    					"embedding_delimiter": ",",
    					"enable_recall_report": "true",
    					"ignore_invalid_doc": "true",
    					"is_embedding_saved": "false",
    					"linear_build_threshold": "5000",
    					"dimension": "1536",
    					"rt_index_params": "{\"proxima.oswg.streamer.segment_size\":2048}",
    					"search_index_params": "{\"proxima.qc.searcher.scan_ratio\":0.01}",
    					"searcher_name": "QcSearcher",
    					"build_index_params": "{\"proxima.qc.builder.quantizer_class\":\"Int8QuantizerConverter\",\"proxima.qc.builder.quantize_by_centroid\":true,\"proxima.qc.builder.optimizer_class\":\"BruteForceBuilder\",\"proxima.qc.builder.thread_count\":10,\"proxima.qc.builder.optimizer_params\":{\"proxima.linear.builder.column_major_order\":true},\"proxima.qc.builder.store_original_features\":false,\"proxima.qc.builder.train_sample_count\":3000000,\"proxima.qc.builder.train_sample_ratio\":0.5}"
    				},
    				"index_type": "CUSTOMIZED"
    			},
    			{
    				"has_primary_key_attribute": true,
    				"index_fields": "id",
    				"is_primary_key_sorted": false,
    				"index_name": "id",
    				"index_type": "PRIMARYKEY64"
    			},
    			{
    				"index_fields": "file_path",
    				"index_name": "file_path",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_name",
    				"index_name": "file_name",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_type",
    				"index_name": "file_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_content",
    				"index_name": "node_content",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_type",
    				"index_name": "node_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "doc_id",
    				"index_name": "doc_id",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "text",
    				"index_name": "text",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "source_type",
    				"index_name": "source_type",
    				"index_type": "STRING"
    			}
    		],
    		"attributes": [
    			{
    				"file_compress": "no_compressor",
    				"field_name": "id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "embedding"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_path"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_name"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_content"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "doc_id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "text"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "source_type"
    			}
    		],
    		"fields": [
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "id"
    			},
    			{
    				"user_defined_param": {
    					"multi_value_sep": ","
    				},
    				"multi_value": true,
    				"compress_type": "uniq",
    				"field_type": "FLOAT",
    				"field_name": "embedding"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_path"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_name"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_content"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "doc_id"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "text"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "source_type"
    			}
    		],
    		"table_name": "abc"
    	},
    	"extend": {
    		"description": [],
    		"vector": [
    			"embedding"
    		],
    		"embeding": []
    	}
    }

  • Pada Index schema, pastikan dimensi vektor sesuai dengan dimensi model penyematan. Untuk Distance type, kami merekomendasikan memilih InnerProduct.

Kelola tabel indeks dan data

1. Masuk ke Konsol Alibaba Cloud OpenSearch Vector Search Edition, klik ID instans Anda, lalu buka halaman Instance Details.

2. Buka halaman manajemen tabel untuk mengelola tabel indeks. Untuk informasi lebih lanjut, lihat Manajemen tabel.

3. Buka halaman manajemen vektor untuk menjalankan uji kueri atau mengelola data. Untuk informasi lebih lanjut, lihat Manajemen vektor.

Siapkan instans RDS for PostgreSQL

1. Jika Anda belum memiliki instans RDS for PostgreSQL, buka halaman pembuatan instans RDS. Konfigurasi parameter utama berikut dan ikuti petunjuk di layar untuk menyelesaikan pembelian. Untuk informasi lebih lanjut, lihat Buat instans ApsaraDB RDS for PostgreSQL.

   • Engine: Pilih PostgreSQL.

   • VPC: Pilih VPC yang sama dengan layanan EAS Anda agar dapat diakses melalui jaringan internal.

   • Privileged account: Di bagian Advanced Settings, konfigurasi akun istimewa. Pilih Set Now dan konfigurasi akun database dan password.

2. Buat database.

   1. Klik nama instans yang telah Anda buat. Di panel navigasi kiri, klik Database Management, lalu klik Create Database.

   2. Pada panel Create Database, konfigurasi Database (DB) Name. Untuk Authorized Account, pilih akun istimewa yang telah Anda buat. Untuk informasi tentang parameter lainnya, lihat Buat database dan akun.

   3. Setelah mengonfigurasi parameter, klik Create.

Konfigurasi layanan

Pastikan Anda memiliki instans RDS for PostgreSQL.

• Vector Database Type: Pilih RDS for PostgreSQL.

• Host address: Titik akhir internal instans RDS for PostgreSQL Anda. Anda dapat menemukannya di halaman Database Connection untuk instans Anda di Konsol ApsaraDB RDS for PostgreSQL.

• Port: Default adalah 5432. Masukkan port aktual jika berbeda.

• Database: Authorized Account untuk database harus merupakan Privileged Account. Untuk petunjuknya, lihat Buat database dan akun. Anda juga harus menginstal ekstensi vector dan jieba untuk database.

• Table Name: Nama kustom untuk tabel database.

• Account dan Password: Username dan password resmi yang Anda konfigurasi saat membuat database. Untuk mempelajari cara membuat akun istimewa, lihat Buat database dan akun. Untuk Account type, pilih Privileged Account.

• OSS Path: Pilih direktori penyimpanan OSS yang sudah ada di wilayah saat ini. Manajemen basis pengetahuan bergantung pada path OSS yang dimount ini.

Kelola database RDS for PostgreSQL

1. Buka daftar instans RDS, alihkan ke wilayah instans Anda, lalu klik nama instans.

2. Di bilah navigasi kiri, pilih Database Management, lalu klik SQL Query di kolom Actions untuk database target.

3. Masukkan Database account dan Database password, yaitu kredensial akun istimewa yang Anda atur saat membuat instans, lalu klik Sign in.

4. Setelah login, Anda dapat mengkueri daftar basis pengetahuan yang diimpor di instansiasi basis data.