應用流開發中需要訪問外部服務(如模型、資料庫等),通過建立可複用的串連來儲存訪問資訊,在應用流節點直接選用。
模型服務串連
模型服務串連用於管理LangStudio工作流程中調用的各種模型服務,您可以根據模型類型和服務提供者建立對應的串連配置。
配置方式:進入LangStudio > 连接>模型服务,單擊新建连接,不同連線類型的參數配置說明如下。
連線類型 | 關鍵參數說明 |
通用LLM模型服务 | 配置相容OpenAI協議的LLM服務。
|
通用Embedding模型服务 | 配置已部署至EAS或第三方的Embedding模型服務。 |
通用多模态Embedding模型服务 | 配置已部署至EAS或第三方的多模態Embedding模型服務,支援映像、文本等多種模態資料的向量化。 |
百炼大模型服务 | 填寫與base_url同地區的api_key,參見擷取API Key。 |
DeepSeek模型服务 | api_key:訪問DeepSeek 官網,建立或查詢api_key。 |
AI搜索开放平台模型服务 | |
多模态VL智能标注模型 | 用於多模態資料智能打標。 |
通用Reranker模型服务 | 用於對嵌入模型返回的前k個文檔重新排序,僅支援ModelGallery部署的模型服務。 |
資料庫連接
資料庫連接用於儲存各種資料庫的訪問配置。
配置方式:進入LangStudio > 连接>数据库,單擊新建连接,參數配置說明如下。
資料庫 | 關鍵參數說明 |
Elasticsearch |
|
OpenSearch |
|
Milvus |
|
Hologres |
|
RDS-MySQL |
|
自訂串連
如果模型服務、資料庫、搜尋服務的串連均不能滿足需求,您可以通過索引值對(key-value)建立自訂串連。
例如:配置SerpApi串連。
自訂鍵:填寫api_key。
自訂值:填寫SerpApi的API Key。
可通過 SerpApi官網註冊帳號並擷取API Key(免費版每月可提供100次搜尋機會)。
後續操作
建立完串連後,您可以在工作流程應用開發中使用。