全部產品
Search
文件中心

Data Management:通過DMS AI外掛程式接入模型

更新時間:Nov 05, 2025

在您完成部署Dify操作後,可以通過DMS在模型供應商頁面提供的DMS AI外掛程式接入部署(私人或阿里雲百鍊)的模型服務,例如LLM、Embedding、Rerank服務。

接入LLM服務

接入私人部署的LLM服務

說明

目前支援接入的模型如下:

DeepSeek-R1-Distill-Qwen-1.5BDeepSeek-R1-Distill-Qwen-7BDeepSeek-R1-Distill-Qwen-14BDeepSeek-R1-Distill-Qwen-32BDeepSeek-R1-Distill-Llama-70B

  1. 進入Dify空間的工作室頁面,單擊帳號名稱,選擇設定

    image

  2. 模型供應商頁面,填寫模型名稱API Key伺服器URL等相關資訊後,單擊儲存

    伺服器URL格式為:http://172.17.XXX.XXX: XX/v1

接入阿里雲百鍊大模型提供的LLM服務

說明

使用阿里雲百鍊提供的LLM服務前,需要為Dify所使用的VPC開通公網訪問許可權。本操作以接入DeepSeek-R1為例。

  1. 進入工作空間,在左側導覽列單擊Difyimage表徵圖,再選擇工作室

  2. 工作室頁面,單擊右上方的帳號名稱,選擇設定

  3. 模型供應商頁面,選擇LLM模型類型,然後填寫模型名稱API Key伺服器URL等相關資訊後,單擊儲存

    • 模型名稱:在阿里雲百鍊部署的模型的名稱。

    • API Key:擷取API Key

    • 伺服器URL:填入阿里雲百鍊伺服器位址,共用模型服務的URL為https://dashscope.aliyuncs.com/compatible-mode/v1

    image

接入Embedding/Rerank模型

使用私人部署的Embedding/Rerank服務

DMS AI支援的Embedding和Rerank模型如下:

類型

模型名稱

最大上下文長度

Embedding

bge-m3

8192

bge-large-zh-v1.5

512

Rerank

bge-reranker-v2-m3

8192

步驟一:在DMS AI外掛程式中註冊模型資訊

  1. 進入Dify工作室頁面,單擊右上方的帳號名稱,選擇設定

  2. 模型供應商頁面,添加Text Embedding或Rerank類型的模型並配置參數資訊,再單擊儲存

    說明

    您僅需要配置模型名稱服務提供者API Key伺服器URL參數即可。

    image

步驟二:在知識庫配置頁面選擇該模型

  1. 進入Dify工作室頁面。

  2. 知識庫頁簽下,選擇建立知識庫

    image

  3. 在知識庫配置頁面,選擇待接入的模型。

使用AnalyticDB for PostgreSQL提供的Embedding/Rerank服務

步驟一:在DMS AI外掛程式中註冊模型資訊

  1. 進入Dify工作室頁面,單擊右上方的帳號名稱,選擇設定

  2. 模型供應商頁面,添加Text Embedding或Rerank類型的模型並配置參數資訊,再單擊儲存

    說明

    image

步驟二:在知識庫配置頁面使用模型

  1. 進入Dify工作室頁面。

  2. 知識庫頁簽下,選擇建立知識庫

    image

  3. 在知識庫配置頁面,選擇待接入的模型。