Déployer des services à l'aide de processeurs - Platform For AI

Elastic Algorithm Service (EAS) fournit des processeurs intégrés pour les frameworks courants tels que PMML et XGBOOST. Vous pouvez également créer un processeur personnalisé.

Fonctionnement

Préparez les fichiers de modèle, les fichiers de processeur et d'autres artefacts de déploiement, puis téléchargez-les vers un service de stockage cloud tel qu'Object Storage Service (OSS) ou NAS. EAS déploie le service en montant ce service de stockage afin d'accéder aux artefacts.

Flux de travail du déploiement de processeur EAS :

Points clés du déploiement de processeur :

PAI met à disposition des processeurs intégrés pour les cas d'utilisation courants. Pour répondre à des exigences métier spécifiques, développez des modèles personnalisés et des fichiers de processeur, puis téléchargez-les vers un service de stockage cloud tel qu'OSS ou NAS.
Stockez séparément les fichiers de modèle et de processeur. Lors du déploiement, configurez le chemin de montage du modèle. Dans le fichier de processeur, utilisez le paramètre get_model_path pour récupérer le chemin configuré. Cette approche simplifie le remplacement du modèle lorsque des mises à jour fréquentes sont nécessaires.
Lors du déploiement d'un service avec un processeur, EAS extrait l'image d'environnement officielle correspondant au framework d'inférence sélectionné. À partir du fichier de processeur, il déploie un serveur HTTP pour gérer les requêtes.

Remarque

Le déploiement par image est recommandé. Le déploiement par processeur impose que le framework d'inférence de modèle et le fichier de processeur respectent des exigences environnementales spécifiques. Cette méthode offre moins de flexibilité que le déploiement par image.

Paramètres

Paramètres spécifiques au déploiement basé sur un processeur dans la console. Pour les autres paramètres, consultez la rubrique Déploiement personnalisé.

Paramètre

Description

Model Settings

Configurez le fichier de modèle selon l'une des méthodes suivantes :

OSS : sélectionnez le chemin OSS du fichier de modèle.
Download URL : saisissez l'URL de téléchargement public.
PAI Model : sélectionnez un modèle enregistré par son nom et sa version. Pour plus d'informations, consultez la rubrique Enregistrer et gérer des modèles.

Processor Type

Les processeurs intégrés et personnalisés sont pris en charge. Pour plus d'informations sur les processeurs intégrés, consultez la rubrique Processeurs intégrés.

Si le Processor Type est défini sur EasyVision(CPU), EasyVision(GPU), EasyTransfer(CPU), EasyTransfer(GPU), EasyNLP ou EasyCV, configurez le Model Type. Les catégories de modèles disponibles varient selon le type de processeur. Sélectionnez une catégorie en fonction de votre cas d'utilisation.
Si le Processor Type est défini sur Custom Processor, configurez les paramètres suivants :
- Processor Language : Cpp, Java ou python.
- Processor Package : spécifiez le package du processeur via OSS ou Download URL.
- Processor Main File : fichier d'entrée du package.