Platform For AI:Deploying a large model RAG conversational system on PAI-EAS

Preparar uma instância

Se você não tiver uma instância do Elasticsearch, faça logon no console do Alibaba Cloud Elasticsearch e crie uma com as seguintes configurações. Para mais informações, consulte Create an Alibaba Cloud Elasticsearch instance.

• Region and Availability Zone: Selecione a mesma região do seu service EAS.

• VPC: Selecione a mesma VPC do seu service EAS para permitir acesso via rede interna.

• Instance Type: Selecione Standard.

• Scenario Initialization Configuration: Selecione General-purpose.

Configurações do service

• Vector Database Type: Selecione Elasticsearch.

• Private Endpoint and Port: Na página de detalhes da sua instância do Elasticsearch, encontre o endpoint privado e a porta na seção Basic Information. O formato é http://<private_endpoint>:<private_port>.

• Index Name: O comportamento do sistema depende se você insere um nome de índice novo ou existente.

  • Inserir um novo nome: O EAS cria automaticamente um índice compatível com o PAI-RAG durante a implantação.

    Importante

    Por padrão, o Alibaba Cloud Elasticsearch não permite a criação automática de índices. Na página Configuration and Management > Cluster Configuration da sua instância do Elasticsearch, clique em Modify Configurations, atualize o arquivo YML e defina Auto Create Index como Allow Auto Create Index. Para mais informações, consulte Configure YML parameters.

  • Inserir um nome existente: O EAS usa o índice existente diretamente. Certifique-se de que o índice foi criado pelo service PAI-RAG para manter a compatibilidade estrutural.

• Account e Password: Configure o nome de usuário e a senha definidos ao criar a instância do Elasticsearch. O nome de usuário padrão é elastic. Se você esqueceu a senha, pode reset the access password of an instance.

• OSS Path: Selecione um diretório de armazenamento do OSS existente na região atual. Você pode gerenciar sua base de conhecimento montando um caminho do OSS.

Gerenciar índices com o Kibana

O Elasticsearch fornece recursos de gerenciamento de índices. Para mais informações, consulte Connect to an Elasticsearch cluster by using a Kibana client.

Preparar uma instância

Se você não tiver uma instância do OpenSearch, faça logon no console do OpenSearch e crie uma com as seguintes configurações. Para mais informações, consulte Purchase an OpenSearch Vector Search Edition instance.

• Product Version: Selecione Vector Search Edition.

• Region and Availability Zone e VPC: O OpenSearch suporta acesso apenas pela internet pública, portanto, essas configurações não precisam ser consistentes com seu service EAS.

Configurações do service

• Vector Database Type: Selecione OpenSearch.

• Endpoint: O endpoint público da sua instância do OpenSearch Vector Search Edition.

  Nota

  Você deve ativar o acesso público para a instância do OpenSearch Vector Search Edition e adicionar o EAS public IP address à lista de permissões.

• Instance ID: Obtenha o ID da instância na lista de instâncias do OpenSearch Vector Search Edition.

• Username e Password: O nome de usuário e a senha definidos ao criar a instância do OpenSearch Vector Search Edition.

• Table Name: Você deve primeiro criar uma tabela de índice que atenda aos requisitos. Para criar uma tabela, consulte Configure an instance e use os seguintes parâmetros principais:

  • Selecione o modelo de cenário de uso geral e importe o seguinte arquivo de configuração para a configuração de campos.

    Arquivo de configuração de campos

    {
    	"schema": {
    		"summarys": {
    			"parameter": {
    				"file_compressor": "zstd"
    			},
    			"summary_fields": [
    				"id",
    				"embedding",
    				"file_path",
    				"file_name",
    				"file_type",
    				"node_content",
    				"node_type",
    				"doc_id",
    				"text",
    				"source_type"
    			]
    		},
    		"file_compress": [
    			{
    				"name": "file_compressor",
    				"type": "zstd"
    			},
    			{
    				"name": "no_compressor",
    				"type": ""
    			}
    		],
    		"indexs": [
    			{
    				"index_fields": [
    					{
    						"boost": 1,
    						"field_name": "id"
    					},
    					{
    						"boost": 1,
    						"field_name": "embedding"
    					}
    				],
    				"indexer": "aitheta2_indexer",
    				"index_name": "embedding",
    				"parameters": {
    					"enable_rt_build": "true",
    					"min_scan_doc_cnt": "20000",
    					"vector_index_type": "Qc",
    					"major_order": "col",
    					"builder_name": "QcBuilder",
    					"distance_type": "SquaredEuclidean",
    					"embedding_delimiter": ",",
    					"enable_recall_report": "true",
    					"ignore_invalid_doc": "true",
    					"is_embedding_saved": "false",
    					"linear_build_threshold": "5000",
    					"dimension": "1536",
    					"rt_index_params": "{\"proxima.oswg.streamer.segment_size\":2048}",
    					"search_index_params": "{\"proxima.qc.searcher.scan_ratio\":0.01}",
    					"searcher_name": "QcSearcher",
    					"build_index_params": "{\"proxima.qc.builder.quantizer_class\":\"Int8QuantizerConverter\",\"proxima.qc.builder.quantize_by_centroid\":true,\"proxima.qc.builder.optimizer_class\":\"BruteForceBuilder\",\"proxima.qc.builder.thread_count\":10,\"proxima.qc.builder.optimizer_params\":{\"proxima.linear.builder.column_major_order\":true},\"proxima.qc.builder.store_original_features\":false,\"proxima.qc.builder.train_sample_count\":3000000,\"proxima.qc.builder.train_sample_ratio\":0.5}"
    				},
    				"index_type": "CUSTOMIZED"
    			},
    			{
    				"has_primary_key_attribute": true,
    				"index_fields": "id",
    				"is_primary_key_sorted": false,
    				"index_name": "id",
    				"index_type": "PRIMARYKEY64"
    			},
    			{
    				"index_fields": "file_path",
    				"index_name": "file_path",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_name",
    				"index_name": "file_name",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "file_type",
    				"index_name": "file_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_content",
    				"index_name": "node_content",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "node_type",
    				"index_name": "node_type",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "doc_id",
    				"index_name": "doc_id",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "text",
    				"index_name": "text",
    				"index_type": "STRING"
    			},
    			{
    				"index_fields": "source_type",
    				"index_name": "source_type",
    				"index_type": "STRING"
    			}
    		],
    		"attributes": [
    			{
    				"file_compress": "no_compressor",
    				"field_name": "id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "embedding"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_path"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_name"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "file_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_content"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "node_type"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "doc_id"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "text"
    			},
    			{
    				"file_compress": "no_compressor",
    				"field_name": "source_type"
    			}
    		],
    		"fields": [
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "id"
    			},
    			{
    				"user_defined_param": {
    					"multi_value_sep": ","
    				},
    				"multi_value": true,
    				"compress_type": "uniq",
    				"field_type": "FLOAT",
    				"field_name": "embedding"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_path"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_name"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "file_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_content"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "node_type"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "doc_id"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "text"
    			},
    			{
    				"compress_type": "uniq",
    				"field_type": "STRING",
    				"field_name": "source_type"
    			}
    		],
    		"table_name": "abc"
    	},
    	"extend": {
    		"description": [],
    		"vector": [
    			"embedding"
    		],
    		"embeding": []
    	}
    }

  • No Index Schema, certifique-se de que a dimensão do vetor corresponda à dimensão do modelo de embedding. Para Distance Type, recomendamos selecionar InnerProduct.

Gerenciar índices e dados

1. Faça logon no console do Alibaba Cloud OpenSearch Vector Search Edition e clique no ID da sua instância para acessar a página Instance Details.

2. Acesse a página de gerenciamento de tabelas para gerenciar a tabela de índice. Para mais informações, consulte Table management.

3. Acesse a página de gerenciamento de vetores para executar testes de consulta e gerenciar dados. Para mais informações, consulte Vector management.

Preparar uma instância

1. Se você não tiver uma instância do RDS for PostgreSQL, acesse a página de criação de instância RDS](https://rdsbuy.console.alibabacloud.com/newCreate/rds/PostgreSQL), configure os seguintes parâmetros principais e siga as instruções na tela para concluir o pagamento e a ativação. Para mais informações, consulte Create an ApsaraDB RDS for PostgreSQL instance.

   • Engine: Selecione PostgreSQL.

   • VPC: Selecione a mesma VPC do seu service EAS para permitir acesso via rede interna.

   • Privileged Account: Na seção More Configurations, configure uma conta privilegiada. Selecione Set Now e configure a conta e a senha do banco de dados.

2. Crie um banco de dados.

   1. Clique no nome da instância. No painel de navegação à esquerda, clique em Database Management e, em seguida, clique em Create Database.

   2. No painel Create Database, configure o Database (DB) Name. Para Authorized Account, selecione a conta privilegiada que você criou. Para informações sobre outros parâmetros, consulte Create a database and an account.

   3. Após configurar os parâmetros, clique em Create.

Configurações do service

Certifique-se de ter created an RDS for PostgreSQL instance.

• Vector Database Type: Selecione RDS for PostgreSQL.

• Host address: O endpoint interno da sua instância do RDS for PostgreSQL. Você pode encontrá-lo na página Database Connection da instância no console do ApsaraDB RDS for PostgreSQL.

• Port: O padrão é 5432. Insira a porta real se for diferente.

• Database: A Authorized Account para o banco de dados deve ser uma privileged account. Para mais informações, consulte Create a database and an account. Você também deve instalar as extensões vector e jieba para o banco de dados.

• Table Name: Um nome personalizado para a tabela do banco de dados.

• Account e Password: O nome de usuário e a senha autorizados configurados ao criar o banco de dados. Para informações sobre como criar uma conta privilegiada, consulte Create a database and an account. Para Account Type, selecione Privileged Account.

• OSS Path: Selecione um diretório de armazenamento do OSS existente na região atual. Você pode gerenciar sua base de conhecimento montando um caminho do OSS.

Gerenciamento de banco de dados

1. Acesse a lista de instâncias RDS, mude para a região onde sua instância está localizada e clique no nome da instância para acessar a página de detalhes da instância.

2. No painel de navegação à esquerda, selecione Database Management. Na coluna Actions do banco de dados alvo, clique em SQL Query.

3. Insira a Database Account e a Database Password, que são as credenciais da conta privilegiada definida ao criar a instância do RDS for PostgreSQL, e clique em Sign in.

4. Após fazer logon, você pode consultar a lista de bases de conhecimento importadas na instância do banco de dados.