使用Processor部署模型線上服務-人工智慧平台 PAI-阿里雲 - Platform For AI

EAS提供了常見模型架構的預置Processor（如PMML、XGBOOST等）可以快速啟動服務。如無法滿足特定的業務需求，還可以構建自訂Processor。

Processor部署原理

準備好模型和Processor檔案等服務部署前的準備內容後，分別上傳至儲存雲產品（OSS、NAS），EAS通過掛載儲存雲產品來擷取部署前所需的準備內容進行服務部署。

EAS Processor部署流程如下。

此方式的部署要點如下。

PAI為您提供了多個典型情境的官方Processor供您使用，您也可以結合業務需求自行開發模型並開發自訂Processor檔案，完成後分別上傳至阿里雲儲存產品OSS或NAS。
建議您將模型和Processor檔案獨立開發分別儲存，後續可在部署時配置模型掛載路徑，Processor檔案中可使用get_model_path參數來擷取配置的模型路徑，便於後續模型需頻繁迭代更新時，可方便地替換模型。
使用Processor部署時，EAS會根據您選用的推理架構自動拉取官方環境鏡像來部署服務，並基於Processor檔案自動為您部署一個HTTP Server用於接收後續調用服務的請求。

說明

推薦使用鏡像部署。使用Processor方式部署時，需保證模型的推理架構和Processor檔案的開發符合開發環境要求，不如鏡像部署方式靈活高效。

通過控制台進行Processor部署特有的參數說明如下，其他請參見自訂部署。

參數

描述

模型配置

您可以通過以下任何一種方式配置模型檔案：

Processor种类

支援所有的預置官方Processor和自訂Processor，關於預置官方Processor的更多資訊，詳情請參見預置Processor。

當Processor种类選擇EasyVision(CPU)、EasyVision(GPU)、EasyTransfer(CPU)、EasyTransfer(GPU)、EasyNLP、EasyCV時，支援配置模型类别（每個Processor種類對應的模型類別不同，請根據業務使用情境選擇）。
當Processor种类選擇自定义processor時，支援配置以下參數：
- Processor语言：支援選擇cpp、java及python。
- Processor包：您可以通過对象存储（OSS）、公网下载地址兩種方式配置。
- Processor主文件：配置自訂Processor包的主檔案。