語義檢索可基於使用者請求,通過分析理解使用者意圖,智能選擇合適的MCP工具,從而降低上下文Token,提升檢索效率。本文介紹如何開啟語義檢索及相關配置。
背景資訊
當使用者開發的智能體需要調用大量MCP工具時,可能面臨管理困難、工具選擇不合適、Tokens消耗增加以及檢索效率降低等問題。為解決相關問題,AI網關推出MCP語義檢索功能,通過以下方式最佳化MCP工具調用過程。
統一入口管理:通過AI網關構建統一的MCP服務存取點,所有Agent可通過單一端點訪問網關執行個體中註冊的全部MCP工具,實現集中化接入,降低多MCP Server分散部署帶來的營運複雜度。
智慧型工具檢索:整合x_higress_tool_search語義搜尋功能,基於AD向量資料庫與Qwen系列大模型,提供高精度的工具推薦能力。Agent可通過自然語言描述需求,系統自動匹配並返回最相關的工具,無需預先瞭解具體工具名稱。
雙階段檢索機制:採用“向量召回 + 重排序”兩階段檢索架構。首先利用Qwen Embedding模型進行向量化相似性計算,擷取初步候選工具集,然後可選擇性地使用Qwen Rerank模型對候選結果進行精細化排序,提升最終工具推薦的準確性與相關性。
即時中繼資料同步:建立完整的MCP工具生命週期管理流程。當使用者在控制台執行MCP Server的增、刪、改操作時,系統自動觸發工具元資訊的採集、向量化處理及持久化儲存,確保向量資料庫與實際部署的服務執行個體保持一致。
控制台整合化配置:在控制台啟用“語義搜尋”功能後,系統將自動完成ADB集合初始化、模型參數配置、路由規則下發及資料同步等全部配置流程,實現語義搜尋能力的一站式開通與管理,提供即開即用的服務體驗。
操作步驟
啟用語義檢索
在AI 網關控制台的執行個體頁面,在頂部功能表列選擇目標執行個體所在地區。
在執行個體頁面,單擊目標網關執行個體ID。
在左側導覽列選擇MCP 管理,單擊語義檢索頁簽。
單擊編輯,開啟啟用語義檢索,選擇檢索工具存取點,單擊確定發布語義檢索。
配置消費者認證
語義檢索支援配置認證鑒權,開啟後僅授權的消費者可通過API Key訪問,無認證或認證異常的請求將被拒絕。
在語義檢索頁簽,選擇消費者認證。
單擊配置資訊功能編輯按鈕,在MCP 服務消費者認證開啟啟用狀態。認證方式預設選擇API KEY。
單擊授權,在添加消費者授權頁面選擇消費者。
說明消費者認證方式需使用API Key,不支援JWT認證方式的消費者使用語義檢索。
單擊添加完成授權。