Platform For AI:Deploying a large model RAG conversational system on PAI-EAS

Bir örnek hazırlayın

Bir Elasticsearch örneğiniz yoksa Alibaba Cloud Elasticsearch konsolunda oturum açın ve aşağıdaki ayarlarla bir tane oluşturun. Daha fazla bilgi için bkz. Alibaba Cloud Elasticsearch örneği oluşturma.

• Region and Availability Zone: EAS hizmetinizle aynı bölgeyi seçin.

• VPC: Dahili ağ üzerinden erişime izin vermek için EAS hizmetinizle aynı VPC'yi seçin.

• Instance Type: Standard seçeneğini belirleyin.

• Scenario Initialization Configuration: General-purpose seçeneğini belirleyin.

Hizmet ayarları

• Vector Database Type: Elasticsearch seçeneğini belirleyin.

• Private Endpoint and Port: Elasticsearch örneğinizin ayrıntılar sayfasında Temel Bilgiler bölümündeki özel uç noktayı ve bağlantı noktasını bulun. Biçim şöyledir: http://<private_endpoint>:<private_port>.

• Index Name: Sistemin davranışı, yeni mi yoksa mevcut bir dizin adı mı girdiğinize bağlıdır.

  • Yeni bir ad girin: EAS, dağıtım sırasında PAI-RAG ile uyumlu bir dizini otomatik olarak oluşturur.

    Önemli

    Varsayılan olarak Alibaba Cloud Elasticsearch otomatik dizin oluşturmayı desteklemez. Elasticsearch örneğinizin Configuration and Management > Cluster Configuration sayfasında Modify Configurations seçeneğine tıklayın, YML dosyasını güncelleyin ve Auto Create Index ayarını Allow Auto Create Index olarak belirleyin. Daha fazla bilgi için bkz. YML parametrelerini yapılandırma.

  • Mevcut bir ad girin: EAS mevcut dizini doğrudan kullanır. Yapısal uyumluluğu korumak için dizinin PAI-RAG hizmeti tarafından oluşturulduğundan emin olun.

• Account ve Password: Elasticsearch örneğini oluştururken ayarladığınız kullanıcı adını ve şifreyi yapılandırın. Varsayılan kullanıcı adı elastic'tir. Şifrenizi unutursanız bir örneğin erişim şifresini sıfırlayabilirsiniz.

• OSS Path: Mevcut bölgedeki mevcut bir OSS depolama dizinini seçin. Bir OSS yolu monte ederek bilgi tabanınızı yönetebilirsiniz.

Kibana ile dizinleri yönetin

Elasticsearch dizin yönetimi özellikleri sağlar. Daha fazla bilgi için bkz. Kibana istemcisi kullanarak bir Elasticsearch kümesine bağlanma.

Bir örnek hazırlayın

Bir OpenSearch örneğiniz yoksa OpenSearch konsolunda oturum açın ve aşağıdaki ayarlarla bir tane oluşturun. Daha fazla bilgi için bkz. OpenSearch Vector Search Edition örneği satın alma.

• Product Version: Vector Search Edition seçeneğini belirleyin.

• Region and Availability Zone ve VPC: OpenSearch yalnızca genel internet üzerinden erişimi desteklediğinden bu ayarların EAS hizmetinizle tutarlı olması gerekmez.

Hizmet ayarları

• Vector Database Type: OpenSearch seçeneğini belirleyin.

• Endpoint: OpenSearch Vector Search Edition örneğinizin genel uç noktası.

  Not

  OpenSearch Vector Search Edition örneği için genel erişimi etkinleştirmeniz ve EAS genel IP adresini izin listesine eklemeniz gerekir.

• Instance ID: Örnek kimliğini OpenSearch Vector Search Edition örnek listesinden alın.

• Username ve Password: OpenSearch Vector Search Edition örneğini oluştururken ayarladığınız kullanıcı adı ve şifre.

• Table Name: Önce gereksinimleri karşılayan bir indeks tablosu oluşturmanız gerekir. Tablo oluşturmak için bkz. Örnek yapılandırma ve aşağıdaki temel parametreleri kullanın:

  • Genel amaçlı senaryo şablonunu seçin ve alan yapılandırması için aşağıdaki yapılandırma dosyasını içe aktarın.

    Alan yapılandırma dosyası

    {
    	"schema": {
    		"summarys": {
    			"parameter": {
    				"file_compressor": "zstd"
    			},
    			"summary_fields": [
    				"id",
    				"embedding",
    				"file_path",
    				"file_name",
    				"file_type",
    				"node_content",
    				"node_type",
    				"doc_id",
    				"text",
    				"source_type"
    			]
    		},
    		"file_compress": [
    			{
    				"name": "file_compressor",
    				"type": "zstd"
    			},
    			{
    				"name": "no_compressor",
    				"type": ""
    			}
    		],
    		"indexs": [
    			{
    				"index_fields": [
    					{
    						"boost": 1,
    						"field_name": "id"
    					},
    					{
    						"boost": 1,
    						"field_name": "embedding"
    					}
    				],
    				"indexer": "aitheta2_indexer",
    				"index_name": "embedding",
    				"parameters": {
    					"enable_rt_build": "true",
    					"min_scan_doc_cnt": "20000",
    					"vector_index_type": "Qc",
    					"major_order": "col",
    					"builder_name": "QcBuilder",
    					"distance_type": "SquaredEuclidean",
    					"embedding_delimiter": ",",
    					"enable_recall_report": "true",
    					"ignore_invalid_doc": "true",
    					"is_embedding_saved": "false",
    					"linear_build_threshold": "5000",
    					"dimension": "1536",
    					"rt_index_params": "{\"proxima.oswg.streamer.segment_size\":2048}",
    					"search_index_params": "{\"proxima.qc.searcher.scan_ratio\":0.01}",
    					"searcher_name": "QcSearcher",
    					"build_index_params": "{\"proxima.qc.builder.quantizer_class\":\"Int8QuantizerConverter\",\"proxima.qc.builder.quantize_by_centroid\":true,\"proxima.qc.builder.optimizer_class\":\"BruteForceBuilder\",\"proxima.qc.builder.thread_count\":10,\"proxima.qc.builder.optimizer_params\":{\"proxima.linear.builder.column_major_order\":true},\"proxima.qc.builder.store_original_features\":false,\"proxima.qc.builder.train_sample_count\":3000000,\"proxima.qc.builder.train_sample_ratio\":0.5}"
    				},
    				"index_type": "CUSTOMIZED"
    			},
    			{
    				"has_primary_key_attribute": true,
    				"index_fields": "id",
    				"is_primary_key_sorted": false,
    				"index_name": "id",
    				"index_type": "PRIMARYKEY64"
    			},
    			{
    				"index_fields": "file_path",
    				"index_name": "file_path",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_name",
    				"index_name": "file_name",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_type",
    				"index_name": "file_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_content",
    				"index_name": "node_content",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_type",
    				"index_name": "node_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "doc_id",
    				"index_name": "doc_id",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "text",
    				"index_name": "text",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "source_type",
    				"index_name": "source_type",
    				"index_type": "STRING"
    			}
    		],
    		"attributes": [
    			{
    				"file_compress": "no_compressor",
    				"field_name": "id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "embedding"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_path"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_name"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_content"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "doc_id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "text"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "source_type"
    			}
    		],
    		"fields": [
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "id"
    			},
    			{
    				"user_defined_param": {
    					"multi_value_sep": ","
    				},
    				"multi_value": true,
    				"compress_type": "uniq",
    				"field_type": "FLOAT",
    				"field_name": "embedding"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_path"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_name"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_content"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "doc_id"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "text"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "source_type"
    			}
    		],
    		"table_name": "abc"
    	},
    	"extend": {
    		"description": [],
    		"vector": [
    			"embedding"
    		],
    		"embeding": []
    	}
    }

  • Index Schema içinde vektör boyutunun gömme modelinin boyutuyla eşleştiğinden emin olun. Distance Type için InnerProduct seçeneğini belirlemenizi öneririz.

İndeksleri ve verileri yönetin

1. Alibaba Cloud OpenSearch Vector Search Edition konsoluna giriş yapın ve Instance Details sayfasına gitmek için örneğinizin kimliğine tıklayın.

2. İndeks tablosunu yönetmek için tablo yönetimi sayfasına gidin. Daha fazla bilgi için bkz. Tablo yönetimi.

3. Sorgu testleri çalıştırmak ve verileri yönetmek için vektör yönetimi sayfasına gidin. Daha fazla bilgi için bkz. Vektör yönetimi.

Bir örnek hazırlayın

1. Bir RDS for PostgreSQL örneğiniz yoksa RDS örnek oluşturma sayfasına gidin, aşağıdaki temel parametreleri yapılandırın ve ödeme ile aktivasyon sürecini tamamlamak için ekrandaki talimatları izleyin. Daha fazla bilgi için bkz. ApsaraDB RDS for PostgreSQL örneği oluşturma.

   • Engine: PostgreSQL seçeneğini belirleyin.

   • VPC: Dahili ağ üzerinden erişime izin vermek için EAS hizmetinizle aynı VPC'yi seçin.

   • Privileged Account: More Configurations bölümünde ayrıcalıklı bir hesap yapılandırın. Set Now seçeneğini belirleyin ve veritabanı hesabını ile şifresini yapılandırın.

2. Bir veritabanı oluşturun.

   1. Örnek adına tıklayın. Sol gezinme bölmesinde Database Management seçeneğine tıklayın ve ardından Create Database seçeneğine tıklayın.

   2. Create Database panelinde Database (DB) Name öğesini yapılandırın. Authorized Account için oluşturduğunuz ayrıcalıklı hesabı seçin. Diğer parametreler hakkında bilgi için bkz. Veritabanı ve hesap oluşturma.

   3. Parametreleri yapılandırdıktan sonra Create seçeneğine tıklayın.

Hizmet ayarları

Bir RDS for PostgreSQL örneği oluşturduğunuzdan emin olun.

• Vector Database Type: RDS for PostgreSQL seçeneğini belirleyin.

• Host address: RDS for PostgreSQL örneğinizin dahili uç noktası. ApsaraDB RDS for PostgreSQL konsolundaki örneğin Database Connection sayfasında bulabilirsiniz.

• Port: Varsayılan 5432'dir. Farklıysa gerçek bağlantı noktasını girin.

• Database: Veritabanı için Authorized Account bir privileged account olmalıdır. Daha fazla bilgi için bkz. Veritabanı ve hesap oluşturma. Ayrıca veritabanı için vektör ve jieba uzantılarını yüklemeniz gerekir.

• Table Name: Veritabanı tablosu için özel bir ad.

• Account ve Password: Veritabanını oluştururken yapılandırdığınız yetkili kullanıcı adı ve şifre. Ayrıcalıklı bir hesap oluşturma hakkında bilgi için bkz. Veritabanı ve hesap oluşturma. Account Type için Privileged Account seçeneğini belirleyin.

• OSS Path: Mevcut bölgedeki mevcut bir OSS depolama dizinini seçin. Bir OSS yolu monte ederek bilgi tabanınızı yönetebilirsiniz.

Veritabanı yönetimi

1. RDS örnek listesine gidin, örneğinizin bulunduğu bölgeye geçin ve örnek ayrıntıları sayfasına gitmek için örnek adına tıklayın.

2. Sol gezinme bölmesinde Database Management seçeneğini belirleyin. Hedef veritabanının Actions sütununda SQL Query seçeneğine tıklayın.

3. RDS for PostgreSQL örneğini oluştururken ayarladığınız ayrıcalıklı hesabın kimlik bilgileri olan Database Account ve Database Password bilgilerini girin ve ardından Sign in seçeneğine tıklayın.

4. Oturum açtıktan sonra veritabanı örneğinde içe aktarılan bilgi tabanlarının listesini sorgulayabilirsiniz.