EMR Serverless Spark 提供統一的外部模型服務註冊能力,支援對接百鍊、PAI-EAS 及自建模型服務。配合 AI Function 能夠快速為您提供線上推理服務,無需通過程式顯式調用模型服務 API。
操作步驟
進入模型服務頁面。
在左側導覽列,選擇EMR Serverless > Spark。
在Spark頁面,單擊目標工作空間名稱。
在EMR Serverless Spark頁面,單擊左側導覽列中的AI 中心 > 模型服務。
在模型服務頁簽,單擊建立外部模型服務,並配置以下資訊:
欄位
值樣本
說明
模型服務名稱
my_qwen_service該名稱用於後續
AI Function中endpointName入參的值,工作空間中唯一,不支援後續修改。Endpoint
http://12*******39.vpc.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/<ServiceName>/v1填寫外部模型服務的Endpoint,如果是PAI-EAS模型,需要在末尾加上/v1。
說明如果使用的模型服務提供的是公網Endpoint,在Serverless Spark中使用該模型時需要給Spark任務配置具備公網訪問能力的網路連接,詳情請參見網路連接。
模型名稱
Qwen3.5-Plus實際調用時的model名稱。
模型類型
Chat根據部署的模型類型選擇
Chat還是Embedding。API KEY
nMzI**********************Zg==模型服務的API Key。
描述
千問最新多模態模型服務
填寫服務的簡要描述,便於識別。
確認所有配置項無誤後,單擊建立完成模型服務註冊。