Platform For AI:Deploy a model as an online service

Facturation

Cet exemple utilise des ressources publiques facturées en paiement à l'utilisation. Arrêtez ou supprimez le service lorsqu'il est inactif pour éviter toute facturation.

Prérequis

• Un espace de travail PAI est créé.

• Un modèle entraîné est prêt au déploiement.

• (Facultatif) Le code de l'application est chargé dans Object Storage Service (OSS).

• (Facultatif) Une image de conteneur est disponible dans Container Registry (ACR) ou sous forme d'URL d'image DSW.

Déployer un modèle avec EAS

Déployer un modèle en tant que service en ligne à l'aide d'EAS propose une procédure pas à pas complète.

1. Connectez-vous à la PAI console. Dans la barre de navigation supérieure, sélectionnez la région et l'espace de travail. Dans le volet de navigation de gauche, cliquez sur Elastic Algorithm Service (EAS) > Deploy Service > Custom Deployment.

2. Définissez Deployment Method sur Image-based Deployment.

3. Configurez Image Configuration pour spécifier l'environnement d'exécution. Sélectionnez une image Alibaba Cloud, une image personnalisée ou une URL d'image.

   Si le modèle a été développé dans DSW, sélectionnez Image Address et copiez l'URL de l'image depuis DSW.

   

   Vous pouvez également pousser l'image vers ACR en suivant la procédure décrite dans Créer une image d'instance DSW.

4. Dans la section Mount storage, chargez le code de votre application dans OSS et configurez le chemin de montage.

   

   L'exemple suivant présente une application de test simple chargée dans le chemin OSS indiqué ci-dessus.

   Exemple de code d'application : web.py

   from bottle import Bottle, run
   
   # Create Bottle instance
   app = Bottle()
   
   # Define route that returns "Hello, World!"
   @app.route('/hello', method=['GET', 'POST'])
   def hello():
       # In production, replace this with parameter parsing and model invocation
   
       return 'Hello, World!'
   
   # Run server
   if __name__ == '__main__':
       run(app, host='0.0.0.0', port=9000)
   

5. Dans Command, saisissez la commande de démarrage de l'application.

   

6. Dans Port Number, saisissez 9000 pour correspondre au port défini dans web.py.

7. Dans Third-party Library Settings, ajoutez les bibliothèques absentes de l'image. Par exemple :

   

8. Pour Resource Type, sélectionnez Public Resources. Pour le type d'instance, sélectionnez ecs.gn7i-c16g1.4xlarge.

9. Cliquez sur Deploy. Le déploiement aboutit lorsque l'état du service passe à Running.

Toutes les options de configuration sont documentées dans Paramètres pour le déploiement personnalisé.

Tester le service

Après le déploiement, testez l'endpoint du service à l'aide de l'outil de débogage en ligne EAS.

1. Sur la page de liste des instances EAS, cliquez sur le nom de l'instance. Sur la page des détails de l'instance, cliquez sur Online Debugging.

2. Saisissez l'URL de requête pour web.py (par exemple, la route /hello) et cliquez sur Send Request. Une réponse « Hello, World! » confirme que le service est en cours d'exécution.

3. Pour appeler le service depuis Internet ou un VPC, utilisez les méthodes décrites dans Méthodes d'appel de service.

Informations connexes

• Aperçu du déploiement de service

• Paramètres pour le déploiement personnalisé

• FAQ EAS