Platform For AI:Deploy a model as an online service

PAI-EAS

EAS (Elastic Algorithm Service) est la plateforme de service en ligne de modèles de PAI. Elle permet de déployer des modèles en un clic sous forme de services d'inférence en ligne ou d'applications Web IA, et propose des fonctionnalités de mise à l'échelle automatique, de gestion des groupes de ressources, de gestion des versions et de surveillance des ressources. Vous assurez ainsi une diffusion de modèles en ligne stable et hautement concurrente, tout en optimisant les coûts liés aux ressources. Pour plus d'informations, consultez la rubrique Présentation d'EAS.

Facturation

Les exemples de cette rubrique utilisent des ressources publiques pour créer un service EAS en mode paiement à l'utilisation. Arrêtez ou supprimez le service lorsque vous n'en avez plus besoin afin d'éviter toute facturation continue.

Déployer un modèle à l'aide d'EAS

Pour un exemple complet de développement d'un modèle dans DSW et de son déploiement dans EAS, consultez la rubrique Déployer le service de modèle avec EAS .

1. Connectez-vous à la PAI console. Sélectionnez la région et l'espace de travail cibles en haut de la page. Dans le volet de navigation de gauche, choisissez Elastic Algorithm Service (EAS) > Deploy Service > Custom Deployment.

2. Configurez les paramètres clés suivants et conservez les valeurs par défaut pour les autres. Pour la liste complète des paramètres de configuration, consultez la rubrique Déploiement personnalisé.

   • Deployment Method : sélectionnez Image-based Deployment.

   • Image Configuration : une image fournit l'environnement d'exécution de votre modèle. Vous pouvez utiliser une image officielle, une image personnalisée ou saisir une adresse d'image.

     Si vous avez développé votre modèle dans DSW, sélectionnez Image Address et copiez l'image utilisée par votre instance DSW. Dans la liste DSW Instance, repérez l'instance cible et cliquez sur l'icône de copie située à côté de l'adresse de l'image dans la colonne Image Version.

     Vous pouvez également utiliser la fonctionnalité de création d'images de DSW pour pousser l'image vers Container Service for Registry (ACR) afin qu'EAS puisse l'utiliser. Pour plus d'informations, consultez la rubrique Créer une image d'instance DSW.

   • Mount storage : téléchargez vos fichiers de code d'application vers OSS et configurez un chemin de montage. Dans la configuration Direct Mount, définissez le type sur OSS, définissez Uri sur le chemin OSS (par exemple, oss://bucket-name/directory/), définissez Mount Path sur /mnt/data/ et configurez le commutateur Read-only selon vos besoins.

     L'exemple suivant utilise ce code. Le fichier de code a été téléchargé vers OSS.

     Exemple de code d'application : web.py

     from bottle import Bottle, run
     
     # Create a Bottle instance
     app = Bottle()
     
     # Define a route that returns "Hello, World"
     @app.route('/hello', method=['GET', 'POST'])
     def hello():
         # Replace this with actual parameter parsing and model invocation in production
     
         return 'Hello, World!'
     
     # Start the server
     if __name__ == '__main__':
         run(app, host='0.0.0.0', port=9000)

   • Command : saisissez la commande de démarrage pour lancer l'exemple de code. Dans cet exemple, définissez Command sur python /mnt/data/web.py et Port Number sur 9000.

   • Port Number : saisissez le numéro de port 9000 utilisé dans web.py.

   • Third-party Library Settings : ajoutez les bibliothèques tierces manquantes dans l'image. Par exemple, dans l'onglet Third-party Library List, saisissez les noms des bibliothèques requises, telles que numpy bottle, dans le champ de saisie.

   • Resource Type : sélectionnez Public Resources. Pour Resource Specification, sélectionnez ecs.gn7i-c16g1.4xlarge.

   Cliquez sur Deploy. Le service est déployé lorsque son statut passe à Running.

Tester le service

Une fois le modèle déployé, utilisez la console de débogage d'EAS pour tester l'API du service.

1. Sur la page de liste des instances EAS, cliquez sur le nom de l'instance pour accéder à la page des détails de l'instance, puis cliquez sur Online Debugging.

2. En prenant l'application web.py comme exemple, définissez le chemin de la requête sur /api/predict/pai_eas_test/hello et la méthode HTTP sur POST, saisissez l'URL de la requête, puis cliquez sur Send Request. Si « Hello, World! » est renvoyé, la requête aboutit.

3. Pour appeler le service via un endpoint public ou un endpoint VPC, consultez la rubrique Appel de service.