注册模型时可配置服务部署信息。一键部署时直接使用该配置,无需重复编辑,提升部署效率。
服务部署配置
注册新模型时,可在模型服务部署配置中自定义部署配置。
选中自定义配置,并在文本框中填写部署配置信息。
对于采用自定义镜像部署的模型,部署服务配置样例如下:
{ "containers": [ { "image": "registry-vpc.cn-shanghai.aliyuncs.com/xxx/yyy:zzz", "env": [ { "name": "var_name", "value": "var_value" } ], "command": "/data/eas/ENV/bin/python /data/eas/app.py", "port": 8000 } ], "storage": [ { "oss": { "readOnly": false }, "properties": { "resource_type": "model" } } ] }对于选择预置 Processor 的模型,部署服务配置样例如下:
{ "processor": "tensorflow_gpu_1.12" }对于选择自定义 Processor 的模型,部署服务配置样例如下:
{ "processor_entry": "./service.py", "processor_type": "python", "processor_path": "http://eas-data.oss-cn-shanghai.aliyuncs.com/demo/service.py", "data_image": "registry.cn-shanghai.aliyuncs.com/eas-service/develop:latest" }
一键部署服务
您可以将注册好的模型直接部署到 EAS,部署时模型服务部署配置会自动透传至 EAS 的部署配置中。操作步骤如下:
在模型管理页面,单击模型列表操作列下的部署至EAS,,页面会自动跳转到EAS部署服务页面。
说明当前仅 Model Gallery 产生的模型支持一键部署。
部署服务页面已根据部署配置预填了关键参数,您只需配置其他必选参数即可部署,详情参见自定义部署。