Platform For AI:Men-deploy sistem percakapan RAG model besar di PAI-EAS

Siapkan instans

Jika Anda belum memiliki instans Elasticsearch, login ke Konsol Alibaba Cloud Elasticsearch dan buat instans dengan pengaturan berikut. Untuk informasi selengkapnya, lihat Buat instans Alibaba Cloud Elasticsearch.

• Region and Availability Zone: Pilih wilayah yang sama dengan layanan EAS Anda.

• VPC: Pilih VPC yang sama dengan layanan EAS Anda agar dapat diakses melalui jaringan internal.

• Instance Type: Pilih Standard.

• Scenario Initialization Configuration: Pilih General-purpose.

Pengaturan layanan

• Vector Database Type: Pilih Elasticsearch.

• Private Endpoint and Port: Pada halaman detail instans Elasticsearch Anda, temukan titik akhir privat dan port di bagian Informasi Dasar. Formatnya adalah http://<private_endpoint>:<private_port>.

• Index Name: Perilaku sistem bergantung pada apakah Anda memasukkan nama indeks baru atau yang sudah ada.

  • Masukkan nama baru: EAS secara otomatis membuat indeks yang kompatibel dengan PAI-RAG selama penerapan.

    Penting

    Secara default, Alibaba Cloud Elasticsearch tidak mengizinkan pembuatan Indeks otomatis. Pada halaman Configuration and Management > Cluster Configuration di instance Elasticsearch Anda, klik Modify Configurations, perbarui file YML, lalu atur Auto Create Index ke Allow Auto Create Index. Untuk informasi selengkapnya, lihat Mengonfigurasi parameter YML.

  • Masukkan nama yang sudah ada: EAS langsung menggunakan indeks yang sudah ada. Pastikan indeks tersebut dibuat oleh layanan PAI-RAG untuk menjaga kompatibilitas struktural.

• Account dan Password: Masukkan username dan password yang Anda tetapkan saat membuat instans Elasticsearch. Username default-nya adalah elastic. Jika lupa password, Anda dapat mengatur ulang password akses instans.

• OSS Path: Pilih direktori penyimpanan OSS yang sudah ada di wilayah saat ini. Anda dapat mengelola basis pengetahuan dengan memount path OSS.

Kelola indeks dengan Kibana

Elasticsearch menyediakan fitur manajemen indeks. Untuk informasi selengkapnya, lihat Hubungkan ke kluster Elasticsearch menggunakan klien Kibana.

Siapkan instans

Jika Anda belum memiliki instans OpenSearch, login ke Konsol OpenSearch dan buat instans dengan pengaturan berikut. Untuk informasi selengkapnya, lihat Beli instans OpenSearch Vector Search Edition.

• Product Version: Pilih Vector Search Edition.

• Region and Availability Zone dan VPC: OpenSearch hanya mendukung akses melalui internet publik, sehingga pengaturan ini tidak perlu konsisten dengan layanan EAS Anda.

Pengaturan layanan

• Vector Database Type: Pilih OpenSearch.

• Endpoint: Titik akhir publik instans OpenSearch Vector Search Edition Anda.

  Catatan

  Anda harus mengaktifkan akses publik untuk instans OpenSearch Vector Search Edition dan menambahkan alamat IP publik EAS ke daftar izin.

• Instance ID: Dapatkan ID instans dari daftar instans OpenSearch Vector Search Edition.

• Username dan Password: Username dan password yang Anda tetapkan saat membuat instans OpenSearch Vector Search Edition.

• Table Name: Anda harus terlebih dahulu membuat (tabel indeks) yang memenuhi persyaratan. Untuk membuat tabel tersebut, lihat Konfigurasi instans dan gunakan parameter (kunci) berikut:

  • Pilih templat skenario tujuan umum dan impor file konfigurasi bidang berikut.

    File konfigurasi bidang

    {
    	"schema": {
    		"summarys": {
    			"parameter": {
    				"file_compressor": "zstd"
    			},
    			"summary_fields": [
    				"id",
    				"embedding",
    				"file_path",
    				"file_name",
    				"file_type",
    				"node_content",
    				"node_type",
    				"doc_id",
    				"text",
    				"source_type"
    			]
    		},
    		"file_compress": [
    			{
    				"name": "file_compressor",
    				"type": "zstd"
    			},
    			{
    				"name": "no_compressor",
    				"type": ""
    			}
    		],
    		"indexs": [
    			{
    				"index_fields": [
    					{
    						"boost": 1,
    						"field_name": "id"
    					},
    					{
    						"boost": 1,
    						"field_name": "embedding"
    					}
    				],
    				"indexer": "aitheta2_indexer",
    				"index_name": "embedding",
    				"parameters": {
    					"enable_rt_build": "true",
    					"min_scan_doc_cnt": "20000",
    					"vector_index_type": "Qc",
    					"major_order": "col",
    					"builder_name": "QcBuilder",
    					"distance_type": "SquaredEuclidean",
    					"embedding_delimiter": ",",
    					"enable_recall_report": "true",
    					"ignore_invalid_doc": "true",
    					"is_embedding_saved": "false",
    					"linear_build_threshold": "5000",
    					"dimension": "1536",
    					"rt_index_params": "{\"proxima.oswg.streamer.segment_size\":2048}",
    					"search_index_params": "{\"proxima.qc.searcher.scan_ratio\":0.01}",
    					"searcher_name": "QcSearcher",
    					"build_index_params": "{\"proxima.qc.builder.quantizer_class\":\"Int8QuantizerConverter\",\"proxima.qc.builder.quantize_by_centroid\":true,\"proxima.qc.builder.optimizer_class\":\"BruteForceBuilder\",\"proxima.qc.builder.thread_count\":10,\"proxima.qc.builder.optimizer_params\":{\"proxima.linear.builder.column_major_order\":true},\"proxima.qc.builder.store_original_features\":false,\"proxima.qc.builder.train_sample_count\":3000000,\"proxima.qc.builder.train_sample_ratio\":0.5}"
    				},
    				"index_type": "CUSTOMIZED"
    			},
    			{
    				"has_primary_key_attribute": true,
    				"index_fields": "id",
    				"is_primary_key_sorted": false,
    				"index_name": "id",
    				"index_type": "PRIMARYKEY64"
    			},
    			{
    				"index_fields": "file_path",
    				"index_name": "file_path",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_name",
    				"index_name": "file_name",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_type",
    				"index_name": "file_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_content",
    				"index_name": "node_content",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_type",
    				"index_name": "node_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "doc_id",
    				"index_name": "doc_id",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "text",
    				"index_name": "text",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "source_type",
    				"index_name": "source_type",
    				"index_type": "STRING"
    			}
    		],
    		"attributes": [
    			{
    				"file_compress": "no_compressor",
    				"field_name": "id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "embedding"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_path"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_name"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_content"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "doc_id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "text"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "source_type"
    			}
    		],
    		"fields": [
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "id"
    			},
    			{
    				"user_defined_param": {
    					"multi_value_sep": ","
    				},
    				"multi_value": true,
    				"compress_type": "uniq",
    				"field_type": "FLOAT",
    				"field_name": "embedding"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_path"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_name"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_content"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "doc_id"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "text"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "source_type"
    			}
    		],
    		"table_name": "abc"
    	},
    	"extend": {
    		"description": [],
    		"vector": [
    			"embedding"
    		],
    		"embeding": []
    	}
    }

  • Pada Index Schema, pastikan dimensi vektor sesuai dengan dimensi model penyematan. Untuk Distance Type, kami merekomendasikan memilih InnerProduct.

Kelola indeks dan data

1. Login ke Konsol Alibaba Cloud OpenSearch Vector Search Edition dan klik ID instans Anda untuk membuka halaman Instance Details.

2. Buka halaman manajemen tabel untuk mengelola tabel indeks. Untuk informasi selengkapnya, lihat Manajemen tabel.

3. Buka halaman manajemen vektor untuk menjalankan uji kueri dan mengelola data. Untuk informasi selengkapnya, lihat Manajemen vektor.

Siapkan instans

1. Jika Anda belum memiliki instans RDS for PostgreSQL, buka halaman pembuatan instans RDS, konfigurasikan parameter kunci berikut, lalu ikuti petunjuk di layar untuk menyelesaikan pembayaran dan aktivasi. Untuk informasi selengkapnya, lihat Buat instans ApsaraDB RDS for PostgreSQL.

   • Engine: Pilih PostgreSQL.

   • VPC: Pilih VPC yang sama dengan layanan EAS Anda agar dapat diakses melalui jaringan internal.

   • Privileged Account: Di bagian More Configurations, konfigurasikan akun istimewa. Pilih Set Now dan konfigurasikan akun database dan password.

2. Buat database.

   1. Klik nama instans. Di panel navigasi sebelah kiri, klik Database Management, lalu klik Create Database.

   2. Pada panel Create Database, konfigurasikan Database (DB) Name. Untuk Authorized Account, pilih akun istimewa yang telah Anda buat. Untuk informasi mengenai parameter lainnya, lihat Buat database dan akun.

   3. Setelah Anda mengonfigurasi parameter, klik Create.

Pengaturan layanan

Pastikan Anda telah membuat instance RDS for PostgreSQL.

• Vector Database Type: Pilih RDS for PostgreSQL.

• Host address: Titik akhir internal instans RDS for PostgreSQL Anda. Anda dapat menemukannya di halaman Database Connection instans di Konsol ApsaraDB RDS for PostgreSQL.

• Port: Default adalah 5432. Masukkan port aktual jika berbeda.

• Database: Authorized Account untuk database harus merupakan privileged account. Untuk informasi selengkapnya, lihat Buat database dan akun. Anda juga harus menginstal ekstensi vector dan jieba pada database.

• Table Name: Nama kustom untuk tabel database.

• Account dan Password: Username dan password resmi yang Anda konfigurasi saat membuat database. Untuk informasi tentang cara membuat akun istimewa, lihat Buat database dan akun. Pada Account Type, pilih Privileged Account.

• OSS Path: Pilih direktori penyimpanan OSS yang sudah ada di wilayah saat ini. Anda dapat mengelola basis pengetahuan dengan memount path OSS.

Manajemen database

1. Buka daftar instans RDS, alihkan ke wilayah tempat instans Anda berada, lalu klik nama instans untuk membuka halaman detail instans.

2. Di panel navigasi sebelah kiri, pilih Database Management. Di kolom Actions database target, klik SQL Query.

3. Masukkan Database Account dan Database Password, yaitu kredensial untuk akun istimewa yang Anda tetapkan saat membuat instans RDS for PostgreSQL, lalu klik Sign in.

4. Setelah login, Anda dapat mengkueri daftar basis pengetahuan yang diimpor di instansiasi basis data.