PAI-EAS propose deux types de groupes de ressources : les groupes de ressources dédiés et les groupes de ressources virtuels. Les groupes de ressources dédiés vous permettent d'acheter et de gérer des ressources de calcul exclusives. Les groupes de ressources virtuels combinent plusieurs types de ressources — ressources publiques, quotas de ressources et ressources EAS dédiées — pour prendre en charge le déploiement mixte de services.
Groupes de ressources dédiés
Types de ressources
Les ressources dédiées sont disponibles selon deux modes de facturation : par abonnement (prépayé) et à la demande (postpayé).
Type | Méthode de facturation | Gestion du groupe de ressources | Types de ressources pris en charge |
Ressource prépayée | Abonnement | Achetez des machines, renouvelez les machines prépayées, libérez les machines postpayées et supprimez des groupes de ressources. Pour plus d'informations, consultez Gérer les machines dans un groupe de ressources dédié. | Accédez à la page EAS Dedicated Machine Subscription. |
Ressource postpayée | Paiement à l'utilisation | Accédez à la page EAS Dedicated Machine Pay-as-you-go. |
Les ressources dédiées postpayées sont facturées immédiatement après l'achat, qu'elles soient ou non utilisées pour déployer des services. Libérez rapidement les machines postpayées inutilisées afin d'éviter des frais inutiles.
Créer un groupe de ressources dédié
Accédez à la page Ressources de calcul IA > Pools de ressources et sélectionnez l'onglet EAS Inference Resources.
-
Dans l'onglet Dedicated Resource Group, cliquez sur Create Resource Group et choisissez l'une des options suivantes :
Create Resource Group : Crée uniquement le groupe de ressources. Vous achetez ensuite les machines depuis la page des détails du groupe de ressources.
Create Resource (Subscription) ou Create Resource (Pay by Usage) : Redirige vers la page d'achat où vous achetez les machines et créez le groupe de ressources simultanément.
-
Sur la page d'achat, configurez les paramètres suivants.
Paramètre
Description
Billing Method
Sélectionnez Subscription ou Pay-as-you-go.
Region and Zone
Sélectionnez la région et la zone pour le groupe de ressources.
Node Type
Types d'instances GPU et CPU disponibles. Pour la liste complète des ressources disponibles, consultez les pages EAS Dedicated Machine Subscription ou EAS Dedicated Machine Pay-as-you-go.
RemarqueLes types d'instances disponibles varient selon la région.
System Disk
Chaque machine inclut 200 Go de stockage sur disque système sans frais supplémentaires. Vous pouvez augmenter la capacité jusqu'à 2 000 Go (minimum : 200 Go). Pour les détails de facturation concernant la capacité supplémentaire, consultez Facturation EAS.
RemarqueToutes les instances de service partagent le stockage du disque système. Lorsque l'espace du disque système est faible, le système expulse les instances de service pour libérer de l'espace, en commençant par celles qui utilisent le plus de stockage. Pour lire ou écrire dans un répertoire de disque local pendant l'exécution de l'instance, consultez Montages de stockage.
buy_type
Sélectionnez new ou upgrade.
Si vous sélectionnez upgrade, configurez le paramètre resource_id.
resource_id
Sélectionnez un ID de groupe de ressources créé dans la liste.
order_num
Valeurs valides : 1 à 9999.
Duration
Périodes d'abonnement : 1 mois, 2 mois, 3 mois, 6 mois, 1 an, ou durées personnalisées (abonnement uniquement).
Auto-Renewal
Activez ou désactivez le renouvellement automatique à l'expiration de l'abonnement (abonnement uniquement).
-
Une fois le paiement effectué avec succès, le système alloue automatiquement les ressources. Vous pouvez consulter ou renommer vos groupes de ressources dans l'onglet Resource Group.
Remarque(Abonnement uniquement) Si la création du groupe de ressources échoue en raison d'un manque de ressources dans la région sélectionnée, le système crée automatiquement une commande de remboursement et le paiement est restitué via le canal de paiement d'origine.
Gérer les machines dans un groupe de ressources dédié
Acheter des machines |
|
Renouveler une machine (Machines par abonnement uniquement) | Prolongez la période d'abonnement d'une machine. Par exemple, un renouvellement d'un mois prolonge l'abonnement d'un mois.
|
Libérer une machine | Machine postpayée : Sur la page des détails du groupe de ressources dédié, cliquez sur Delete dans la colonne Operations de l'instance cible. Machine par abonnement : Consultez FAQ EAS. |
Consulter l'utilisation des ressources | Dans l'onglet Resource Group, cliquez sur le nom du groupe de ressources cible. Ensuite, dans l'onglet Nodes, consultez l'utilisation du CPU, du GPU et de la mémoire ainsi que la capacité totale de chaque machine. |
Désactiver la planification | Lorsqu'une machine est à l'état Running, cliquez sur Stop Scheduling dans la colonne Actions pour rendre la machine non planifiable. Cliquez sur Restart Scheduling pour reprendre la planification. Remarque Après la désactivation de la planification, les services déjà en cours d'exécution sur la machine continuent de fonctionner. Toutefois, si un service est redémarré, il est planifié sur une autre machine disponible dans le groupe de ressources. |
Évacuer le nœud | Cliquez sur Clear Node. Les instances de service déployées sur la machine sont automatiquement arrêtées et redéployées sur d'autres machines disponibles dans le groupe de ressources. Important L'évacuation d'un nœud interrompt tous les travaux en cours d'exécution sur la machine. Procédez avec prudence. |
Groupes de ressources virtuels
Un groupe de ressources virtuel est un regroupement logique qui combine plusieurs types de ressources — ressources publiques, quotas de ressources et ressources EAS dédiées — afin de vous permettre de déployer et de planifier un seul service sur différents pools de ressources.
Créer un groupe de ressources virtuel
Accédez à la page Ressources de calcul IA > Pools de ressources et sélectionnez l'onglet EAS Inference Resources.
-
Dans l'onglet Virtual Resource Group, cliquez sur Create Virtual Resource Group.
Les types de ressources pris en charge incluent Public Resource Group, EAS Resource Group et Resource Quota. Pour les groupes de ressources publics, vous pouvez également sélectionner instances Spot. Configurez les types de ressources selon vos besoins et définissez la priorité de planification pour chaque ressource (1 = priorité la plus basse, 9 = priorité la plus élevée).
Utiliser un groupe de ressources virtuel
Lors du déploiement d'un service, dans la section Resource Information, définissez le paramètre Resource Type sur EAS Resource Group puis sélectionnez le Virtual Resource Group dans la liste déroulante Resource Group.
Références
Pour plus d'informations sur la configuration du déploiement de services de modèles, consultez Déploiement personnalisé.
Vous pouvez configurer la collecte de journaux pour les groupes de ressources afin d'enregistrer les journaux de service EAS dans votre Logstore SLS. Pour plus d'informations, consultez Configurer la collecte de journaux.
FAQ
-
Puis-je déployer plusieurs modèles dans un seul groupe de ressources ?
Oui. Tant que le groupe de ressources dispose d'une capacité suffisante, vous pouvez y déployer plusieurs services de modèles.
-
Puis-je utiliser les ressources EAS dédiées inactives pour l'entraînement distribué DLC ?
Non. Les ressources EAS dédiées ne peuvent être utilisées que pour le déploiement de services et ne sont pas disponibles pour DLC.