Designer支持将包含数据预处理、特征工程、模型预测的离线数据处理Pipeline打包成Pipeline模型,一键部署为EAS在线服务。需要把离线训练好的模型用于线上实时预测时,使用此功能。
使用限制
仅支持Alink框架的算法组件。这类组件左上角有紫色小点标识。
待部署模型涉及的训练组件及配套预测组件均需运行成功,即显示绿色小对勾。打包时系统会把这些组件生成的模型一起打包,组件未运行成功则无模型可用。例如,要将线性回归模型部署为在线服务,线性回归训练组件和线性回归预测组件都必须运行成功。
在线服务只支持单输入单输出,因此需要从离线的Directed Acyclic Graph(DAG)图中选择一条串行链路部署。
前提条件
已创建并成功运行模型工作流,其中包含数据预处理、特征工程、模型预测等离线数据。详情请参见构建模型。
操作步骤
进入Designer页面。
登录PAI控制台。
在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应的工作空间。
在工作空间页面的左侧导航栏选择,进入Designer页面。
在工作流列表页面,双击目标工作流,进入工作流页面。
在Designer画布上方,单击模型 > 制作Pipeline模型。
选中Pipeline节点,并单击下一步。
在高亮节点中选中节点,确定需要部署的数据处理链路,通常是1~N个预测组件串行的链路。以下示例中,选中的链路里数据先经过归一化、独热编码,再经过向量聚合,最后由FM预测组件完成预测。对话框会提示请从高亮节点中选择一个数据处理链路部署成在线服务。画布中禁用的节点表示该节点不支持打包部署为在线服务,或未成功运行。
选中一个节点时,如果该组件下游是单分支,下游节点会自动选中,您也可以取消选中。
取消选中一个节点时,该组件下游已选中的节点也会全部取消选中。
在制作Pipeline模型对话框中,单击下一步启动Pipeline模型打包任务。在弹出的窗口中配置选择模型存储路径,即填写打包后模型保存的OSS路径,然后单击下一步开始打包。
模型打包任务会自动将数据预测链路和链路中的模型一起打包,生成一个PipelineModel。打包过程会启动一个离线任务,任务名称以model-combination-开头。
在Designer画布上方,单击全部任务查看,在历史任务对话框中查看任务进度。打包大约需要3~5分钟,任务状态变为成功后即可继续下一步。
在历史任务对话框中,单击目标任务操作列的模型,一键部署Pipeline模型。
页面跳转到EAS控制台后,具体部署操作请参见Designer一键部署。