在您完成部署Dify操作後,可以通過DMS在模型供應商頁面提供的DMS AI外掛程式接入部署(私人或阿里雲百鍊)的模型服務,例如LLM、Embedding、Rerank服務。
接入LLM服務
接入私人部署的LLM服務
目前支援接入的模型如下:
DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-70B。
進入Dify空間的工作室頁面,單擊帳號名稱,選擇設定。

在模型供應商頁面,填寫模型名稱、API Key、伺服器URL等相關資訊後,單擊儲存。
伺服器URL格式為:
http://172.17.XXX.XXX: XX/v1。
接入阿里雲百鍊大模型提供的LLM服務
使用阿里雲百鍊提供的LLM服務前,需要為Dify所使用的VPC開通公網訪問許可權。本操作以接入DeepSeek-R1為例。
進入工作空間,在左側導覽列單擊Dify
表徵圖,再選擇工作室。在工作室頁面,單擊右上方的帳號名稱,選擇設定。
在模型供應商頁面,選擇LLM模型類型,然後填寫模型名稱、API Key、伺服器URL等相關資訊後,單擊儲存。
模型名稱:在阿里雲百鍊部署的模型的名稱。
API Key:擷取API Key。
伺服器URL:填入阿里雲百鍊伺服器位址,共用模型服務的URL為
https://dashscope.aliyuncs.com/compatible-mode/v1。

接入Embedding/Rerank模型
使用私人部署的Embedding/Rerank服務
DMS AI支援的Embedding和Rerank模型如下:
類型 | 模型名稱 | 最大上下文長度 |
Embedding | bge-m3 | 8192 |
bge-large-zh-v1.5 | 512 | |
Rerank | bge-reranker-v2-m3 | 8192 |
步驟一:在DMS AI外掛程式中註冊模型資訊
進入Dify工作室頁面,單擊右上方的帳號名稱,選擇設定。
在模型供應商頁面,添加Text Embedding或Rerank類型的模型並配置參數資訊,再單擊儲存。
說明您僅需要配置模型名稱、服務提供者、API Key、伺服器URL參數即可。

步驟二:在知識庫配置頁面選擇該模型
進入Dify工作室頁面。
在知識庫頁簽下,選擇建立知識庫。

在知識庫配置頁面,選擇待接入的模型。
使用AnalyticDB for PostgreSQL提供的Embedding/Rerank服務
步驟一:在DMS AI外掛程式中註冊模型資訊
進入Dify工作室頁面,單擊右上方的帳號名稱,選擇設定。
在模型供應商頁面,添加Text Embedding或Rerank類型的模型並配置參數資訊,再單擊儲存
說明您僅需要配置模型名稱、服務提供者、Access Key、Secret Key、執行個體ID、地區ID、上下文長度參數即可。更多資訊,請參見查看Access Key、Secret Key、Text Embedding參數填寫說明和Rerank參數填寫說明。
上下文長度的取值不能超過2048。

步驟二:在知識庫配置頁面使用模型
進入Dify工作室頁面。
在知識庫頁簽下,選擇建立知識庫。

在知識庫配置頁面,選擇待接入的模型。