Platform For AI:Gerenciar bases de conhecimento

Como funciona

Uma base de conhecimento converte arquivos do OSS em conteúdo recuperável por LLMs em três etapas:

1. Leitura e fragmentação de dados: Lê os arquivos de origem no OSS e os divide em unidades processáveis.

   • Documentos não estruturados: O sistema analisa e divide o conteúdo em blocos de texto menores e semanticamente completos (chunks).

   • Dados estruturados: A fragmentação ocorre por linha.

   • Imagens: O processamento é integral, sem fragmentação.

2. Vetorização: Um modelo de embedding converte cada chunk ou imagem em um vetor numérico que representa seu significado semântico.

3. Armazenamento e indexação: Os dados vetoriais são armazenados em um banco de dados vetorial e um índice é criado para recuperação.

Primeiros passos

Crie uma base de conhecimento do tipo Documento e utilize-a em um fluxo de aplicação:

1. Crie uma base de conhecimento. Acesse o LangStudio e selecione um workspace. Na aba Knowledge Base, clique em Create Knowledge Base. Configure os parâmetros abaixo e clique em OK.

   Parâmetro		Descrição
   Basic Configuration	Name	Insira um nome personalizado para a base de conhecimento, como test_kg.
   	Data Source OSS Path	Local onde os arquivos de origem estão armazenados. Exemplo: oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/original/.
   	Output OSS Path	Armazena resultados intermediários de análise e dados de índice. A saída final depende do tipo de banco de dados vetorial selecionado. Exemplo: oss://examplebucket.oss-cn-hangzhou-internal.aliyuncs.com/test/output/. Importante Se a Instance RAM Role do runtime for a função padrão do PAI, defina este parâmetro como um diretório dentro do caminho de armazenamento padrão do workspace atual no Bucket do OSS.
   	Type	Selecione Document.
   Embedding Model and Database	Embedding Type	Selecione Alibaba Cloud Model Studio Service (crie uma conexão primeiro, consulte Connection Configuration) e escolha a conexão e o modelo.
   	Vector Database Type	Escolha FAISS para testes rápidos.

2. Faça upload dos arquivos.

   1. Na aba Knowledge Base, clique na base de conhecimento desejada. Na página Overview, alterne para a aba Documents. Esta aba exibe os documentos da fonte de dados do OSS configurada.

   2. Adicione ou atualize arquivos com o botão Upload ou envie-os diretamente para a fonte de dados no OSS. Por exemplo, faça upload do arquivo rag_test_doc.txt pela página. Para formatos de arquivo suportados, consulte Knowledge Base Types.

      

3. Atualize o índice. Após o upload dos arquivos, clique em Update Index no canto superior direito. Na caixa de diálogo, configure os recursos de computação e a rede. Quando a tarefa for concluída com êxito, o status do arquivo mudará para Indexed. Clique em um arquivo para visualizar seus chunks. Para bases de conhecimento de imagens, o sistema retorna listas de imagens.

   Nota

   Para chunks de documentos armazenados no Milvus, defina o status individualmente como Enabled ou Disabled. Chunks desativados não são recuperados durante as buscas.

   

4. Execute um teste de recuperação. Após atualizar o índice, mude para a aba Recall Test. Insira uma consulta e ajuste os parâmetros de recuperação para testar o desempenho.

   

5. Use a base de conhecimento em um fluxo de aplicação. Após os testes, recupere informações da base de conhecimento em um application flow. No nó da base de conhecimento, ative os recursos de reescrita de consulta e reclassificação de resultados e visualize a consulta reescrita no rastreamento de execução.

   

   O resultado é uma List[Dict]. Cada Dict possui as chaves content e score, que representam o chunk recuperado e sua pontuação de similaridade com a consulta.

   [
     {
       "score": 0.8057173490524292,
       "content": "Due to the uncertainty caused by the pandemic, XX Bank proactively increased provisions for impairment losses on loans, advances, and non-credit assets based on economic trends and forecasts for China or the Chinese mainland. The bank also increased the write-off and disposal of non-performing assets to improve the provision coverage ratio. In 2020, the net profit reached 28.928 billion CNY, a year-on-year increase of 2.6%, and profitability gradually improved.\n(CNY in millions) 2020 2019 Change (%)\nOperating Results and Profitability\nOperating Income 153,542 137,958 11.3\nOperating Profit Before Impairment Losses 107,327 95,816 12.0\nNet Profit 28,928 28,195 2.6\nCost-to-Income Ratio(1)(%) 29.11 29.61 down 0.50 percentage points\nAverage Return on Total Assets (%) 0.69 0.77 down 0.08 percentage points\nWeighted Average Return on Equity (%) 9.58 11.30 down 1.72 percentage points\nNet Interest Margin(2)(%) 2.53 2.62 down 0.09 percentage points\nNote: (1) Cost-to-Income Ratio = Business and management fees / Operating income.",
       "id": "49f04c4cb1d48cbad130647bd0d75f***1cf07c4aeb7a5d9a1f3bda950a6b86e",
       "metadata": {
         "page_label": "40",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     },
     {
       "score": 0.7708036303520203,
       "content": "7.2 billion CNY, a year-on-year increase of 5.2%.\n2020\n(CNY in millions) Life and Health Insurance Business, Property and Casualty Insurance Business, Banking Business, Trust Business, Securities Business, Other Asset Management Business, Technology Business, Other Business and Consolidation Elimination, Group Consolidated\nNet profit attributable to shareholders of the parent company 95,018 16,083 16,766 2,476 2,959 5,737 7,936 (3,876) 143,099\nMinority interest 1,054 76 12,162 3 143 974 1,567 281 16,260\nNet profit (A) 96,072 16,159 28,928 2,479 3,102 6,711 9,503 (3,595) 159,359\nItems excluded:\n Short-term investment fluctuation(1)(B) 10,308 – – – – – – – 10,308\n Impact of discount rate change (C) (7,902) – – – – – – – (7,902)\n One-time significant items and others excluded by management as not part of daily operating income and expenditure (D) – – – – – – 1,282 – 1,282\nOperating profit (E=A-B-C-D) 93,666 16,159 28,928 2,479 3,102 6,711 8,221 (3,595) 155,670\nOperating profit attributable to shareholders of the parent company 92,672 16,",
       "id": "8066c16048bd722d030a85ee8b1***36d5f31624b28f1c0c15943855c5ae5c9f",
       "metadata": {
         "page_label": "19",
         "file_name": "2021-02-04_XX_Insurance_Group_Co_Ltd_XXX_China_XX_2020_Annual_Report.pdf",
         "file_path": "oss://my-bucket-name/datasets/chatglm-fintech/2021-02-04__XX_Insurance_Group_Co_Ltd__601318__China_XX__2020_Annual_Report.pdf",
         "file_type": "application/pdf",
         "file_size": 7982999,
         "creation_date": "2024-10-10",
         "last_modified_date": "2024-10-10"
       }
     }
   ]

Recursos

Configure parâmetros de recuperação

• Top K: Quantidade máxima de chunks relevantes a recuperar. Intervalo: 1 a 100.

• Limiar de pontuação: Limiar de pontuação de similaridade (0 a 1). Apenas chunks com pontuação acima deste valor são retornados.

• Padrão de Recuperação: O padrão é Dense (vetorial). A recuperação híbrida (vetor + palavra-chave) requer Milvus 2.4.x+ ou Elasticsearch. Select a retrieval mode.

• Condição de filtro de metadados: Restringe o escopo de busca usando metadados. Use metadata.

• Reescrita de consulta: Usa um LLM para esclarecer consultas vagas ou dependentes de contexto, melhorando a precisão da recuperação. Query rewrite.

• Reclassificação de Resultados: Utiliza um modelo de reclassificação para reordenar resultados, colocando os mais relevantes no topo. Result Reranking.

  Nota

  Requer um modelo de reclassificação. Tipos de conexão suportados: Model Studio, AI Search Open Platform Model Service e General Reranker Model Service.

Otimize o desempenho de recuperação

FAQ