：基於EAS&RDS PostgreSQL搭建RAG檢索增強對話系統

EAS簡介

EAS（Elastic Algorithm Service）是PAI的模型線上服務平台，支援將模型部署為線上推理服務和AI-Web應用。EAS提供了彈性擴縮容和藍綠部署等功能，可以支撐您以較低的資源成本擷取高並發且穩定的線上演算法模型服務。此外，EAS具備資源群組管理和版本控制等功能，並且有完整營運監控體系等能力。更詳細的內容介紹，請參見EAS模型服務概述。

RAG簡介

隨著AI技術的飛速發展，產生式人工智慧在文本產生、映像產生等領域展現出了令人矚目的成就。然而，在廣泛應用大語言模型（LLM）的過程中，一些固有局限性逐漸顯現：

• 領域知識局限：大語言模型通常基於大規模通用資料集訓練而成，難以針對專業垂直領域提供深入和針對性處理。

• 資訊更新滯後：由於模型訓練所依賴的資料集具有靜態特性，大模型無法即時擷取和學習最新的資訊與知識進展。

• 模型誤導性輸出：受制於資料偏差、模型內在缺陷等因素，大語言模型可能會出現看似合理實則錯誤的輸出，即所謂的“大模型幻覺”。

為克服這些挑戰，並進一步強化大模型的功能性和準確性，檢索增強產生技術RAG（Retrieval-Augmented Generation）應運而生。這一技術通過整合外部知識庫，能夠顯著減少大模型虛構的問題，並提升其擷取及應用最新知識的能力，從而實現更個人化和精準化的LLM定製。

RDS PostgreSQL簡介

阿里雲關係型資料庫RDS（Relational Database Service）支援PostgreSQL引擎。PostgreSQL的優點主要集中在對SQL規範的完整實現以及豐富多樣的資料類型支援，包括JSON資料、IP資料和幾何資料等。除了完美支援事務、子查詢、多版本控制（MVCC）、資料完整性檢查等特性外，RDS PostgreSQL還整合了高可用和備份恢複等重要功能，減輕您的營運壓力。更多關於RDS PostgreSQL的進階功能介紹，請參見RDS PostgreSQL。

使用流程

EAS自建了RAG系統化解決方案，提供了靈活可調的參數配置，您可以通過WebUI或者API調用RAG服務，定製自己專屬的對話系統。RAG技術架構的核心為檢索和產生：

• 在檢索方面，EAS支援多種向量檢索庫，包括開源的Faiss、Elasticsearch、Hologres、OpenSearch以及RDS PostgreSQL。

• 在產生方面，EAS支援豐富的開源模型，例如通義千問、Llama、Mistral、百川等，同時支援ChatGPT調用。

本方案以RDS PostgreSQL為例，為您介紹如何使用EAS與RDS PostgreSQL構建一個大模型RAG對話系統。具體流程如下：

1. 準備向量檢索庫RDS PostgreSQL

   首先建立RDS PostgreSQL執行個體，並準備部署RAG服務關聯該執行個體時依賴的配置項。

2. 部署RAG服務並關聯RDS PostgreSQL執行個體

   在EAS模型線上服務平台部署RAG服務，並關聯RDS PostgreSQL執行個體。

3. 使用RAG對話系統

   您可以在RAG對話系統中串連RDS PostgreSQL，上傳企業知識庫檔案，並進行知識問答。

準備向量檢索庫RDS PostgreSQL

步驟一：建立RDS PostgreSQL執行個體和資料庫

1. 建立RDS PostgreSQL執行個體。

   1. 點此開啟RDS執行個體建立頁面。

   2. 在購買頁面，配置以下關鍵參數，其他參數配置說明，請參見建立RDS PostgreSQL執行個體。

      • 引擎：選擇PostgreSQL。

      • VPC：選擇已建立的專用網路。

      • 高許可權帳號：在更多配置地區，配置高許可權帳號。選擇立即設定，並設定資料庫帳號和密碼。

   3. 按照控制台操作指引完成支付和開通操作。

2. 建立資料庫。

   1. 單擊已建立的執行個體名稱，在左側導覽列單擊資料庫管理，並單擊建立資料庫。

   2. 在建立資料庫配置面板中，配置資料庫（DB）名稱，授權帳號選擇已建立的高許可權帳號，其他參數配置說明，請參見建立帳號和資料庫。

   3. 參數配置完成後，單擊建立。

步驟二：準備配置項

1. 查詢資料庫連接地址。

   在RDS PostgreSQL執行個體詳情頁面的左側導覽列，選擇資料庫連接，並查看資料庫內網地址、外網地址，以及相應的連接埠號碼。

   • 使用內網地址：RAG服務需要和資料庫在同一個VPC下。

   • 使用外網地址：當EAS通過外網地址訪問RDS PostgreSQL時，EAS需要具備訪問公網的能力。同時，為確保PostgreSQL執行個體能夠接收來自EAS執行個體的公網請求，您需要為PostgreSQL開通外網地址，並將相關EIP地址或0.0.0.0/0加入白名單。具體操作步驟如下：

     1. 為RDS PostgreSQL開通外網地址。具體操作，請參見開通或關閉外網地址。

     2. 為EAS開通公網訪問能力，您需要為後續部署RAG服務時添加的VPC綁定NAT Gateway和Elastic IP Address（EIP）。具體操作，請參見使用公網NAT GatewaySNAT功能訪問互連網。

        說明

        RAG服務可以使用與RDS PostgreSQL相同的VPC，也可以使用其他VPC。

     3. 將0.0.0.0/0或上述Elastic IP Address（EIP）地址添加為RDS PostgreSQL執行個體外網地址白名單。具體操作，請參見設定白名單。

2. 查詢高許可權帳號和密碼。

   在RDS PostgreSQL執行個體詳情頁面的左側導覽列，選擇帳號管理。在該頁面查看已建立的高許可權帳號，相應密碼在建立執行個體時設定，如果忘記可單擊重設密碼進行修改。

在知識庫頁簽的檔案管理Tab頁上傳知識庫檔案。

知識庫上傳完成後，系統會自動按照PAI-RAG格式將檔案儲存體到向量檢索庫。對於同名知識庫檔案，除了FAISS外，其他向量檢索庫將會覆蓋原有檔案。支援的檔案類型為.html、.htm、.txt、.pdf、.pptx、.md、Excel（.xlsx或.xls）、.jsonl、.jpeg、.jpg、.png、.csv或Word（.docx），例如rag_chatbot_test_doc.txt。

在對話頁簽，選擇知識庫名稱、使用意圖（使用更多工具選擇查詢知識庫）進行知識問答。