MCP服務支援配置多版本後端服務,並通過佈建服務權重實現灰階發布。本文介紹如何配置後端服務的灰階發布。
前提條件
本方案為驗證AI網關MCP服務後端服務灰階發布能力,在執行驗證前需建立兩個服務,並確保服務返回結果有明顯差異,便於驗證灰階發布結果。
操作步驟
本操作步驟執行完,使用者將獲得一個配置了兩個服務版本,且兩個版本的路由比重為1:1的MCP服務。多服務及權重設定可按情境需要自訂。
在AI 網關控制台的執行個體頁面,在頂部功能表列選擇目標執行個體所在地區。
在執行個體頁面,單擊目標網關執行個體ID。
在左側導覽列選擇MCP 管理,單擊建立MCP服務。
協議選擇HTTP轉MCP,使用情境選擇按比例(多服務)。
在後端服務中,服務名稱選擇已建立的服務來源,服務權重設定為50。
單擊添加,完成另一個服務的配置,服務權重同樣設定為50。
完成描述與網域名稱配置,單擊儲存並發布。
驗證結果
根據後端服務與權重配置情況,可進行以下驗證。
後端服務配置為單服務,多次請求結果均路由至單一版本。
後端配置為多服務,服務權重設定中存在一項為0,多次請求結果設定為0的服務不會被訪問,其餘服務路由次數比等於服務權重比值。
後端服務配置為多服務,但僅配置一個後端服務,可正確完成配置並且多次請求結果均路由至單一版本。
同一個後端服務被兩個MCP服務使用,並且其中一個單服務,另一個是多服務,此時兩個MCP服務均可正常訪問。