Platform For AI:Deploy a model as an online service

Faturamento

Este exemplo usa recursos públicos cobrados na modalidade pagamento conforme o uso. Pare ou exclua o service quando não estiver em uso para evitar cobranças.

Pré-requisitos

• Workspace do PAI criado.

• Modelo treinado pronto para implantação.

• (Opcional) Código da aplicação carregado no Object Storage Service (OSS).

• (Opcional) Imagem de contêiner disponível no Container Registry (ACR) ou como URL de imagem do DSW.

Implante um modelo com o EAS

Deploy a model as an online service using EAS oferece um guia completo passo a passo.

1. Faça login no PAI console. Na barra de navegação superior, selecione a região e o workspace. No painel de navegação à esquerda, clique em Elastic Algorithm Service (EAS) > Deploy Service > Custom Deployment.

2. Defina Deployment Method como Image-based Deployment.

3. Configure Image Configuration para especificar o ambiente de execução. Selecione uma imagem da Alibaba Cloud, uma imagem personalizada ou uma URL de imagem.

   Se o modelo foi desenvolvido no DSW, selecione Image Address e copie a URL da imagem do DSW.

   

   Alternativamente, envie a imagem para o ACR usando Create a DSW instance image.

4. Na seção Mount storage, carregue o código da aplicação no OSS e configure o caminho de montagem.

   

   O exemplo a seguir mostra uma aplicação de teste simples carregada no caminho do OSS mencionado anteriormente.

   Código de exemplo da aplicação: web.py

   from bottle import Bottle, run
   
   # Create Bottle instance
   app = Bottle()
   
   # Define route that returns "Hello, World!"
   @app.route('/hello', method=['GET', 'POST'])
   def hello():
       # In production, replace this with parameter parsing and model invocation
   
       return 'Hello, World!'
   
   # Run server
   if __name__ == '__main__':
       run(app, host='0.0.0.0', port=9000)
   

5. Em Command, insira o comando para iniciar a aplicação.

   

6. Em Port Number, insira 9000 para corresponder à porta definida em web.py.

7. Em Third-party Library Settings, adicione bibliotecas não incluídas na imagem. Por exemplo:

   

8. Em Resource Type, selecione Public Resources. Para o tipo de instância, selecione ecs.gn7i-c16g1.4xlarge.

9. Clique em Deploy. A implantação é concluída com êxito quando o status do service muda para Running.

Todas as opções de configuração estão documentadas em Parameters for custom deployment.

Teste o service

Após a implantação, teste o endpoint do service usando a ferramenta de depuração online do EAS.

1. Na página de lista de instâncias do EAS, clique no nome da instância. Na página de detalhes da instância, clique em Online Debugging.

2. Insira a URL de solicitação para web.py (por exemplo, a rota /hello) e clique em Send Request. Uma resposta "Hello, World!" confirma que o service está em execução.

3. Para invocar o service pela internet ou por uma VPC, use os métodos descritos em Service invocation methods.

Informações relacionadas

• Service deployment overview

• Parameters for custom deployment

• EAS FAQ