Les ressources de calcul IA de PAI offrent une capacité GPU haute disponibilité et hautes performances pour les charges de travail d'entraînement et d'inférence. Ces ressources alimentent DSW, DLC et EAS. Achetez les ressources de calcul au sein d'un pool de ressources, allouez la capacité aux équipes via des quotas de ressources (Quotas) et associez ces quotas à des espaces de travail avant utilisation.
Types de ressources
Ressources cloud-native
Les ressources cloud-native s'appliquent à PAI-DSW, PAI-DLC et PAI-EAS. Elles se déclinent en deux types :
|
Type |
Description |
Cas d'utilisation |
|
Ressources de calcul à usage général |
S'appuyant sur des produits cloud tels que ECS, ECI et EGS, ces ressources offrent une capacité flexible et stable. Après l'activation de PAI, le système crée automatiquement un quota de ressources publiques prêt à l'emploi. |
Entraînement et inférence de modèles courants, ainsi que développement et expérimentation à petite ou moyenne échelle. |
|
Ressources de calcul IA Lingjun |
Capacité haute performance conçue pour l'apprentissage profond à grande échelle. La co-optimisation matériel-logiciel assure une interconnexion réseau haute performance et une accélération du stockage. |
Entraînement de grands modèles, entraînement distribué à l'échelle de milliers de GPU et charges de travail exigeant une bande passante réseau et de stockage élevée. |
Ressources de moteur Big Data
Les ressources de moteur Big Data s'appliquent à PAI-Designer. Elles incluent deux types :
|
Type |
Description |
Références |
|
MaxCompute |
Entrepôt de données cloud de niveau entreprise prenant en charge l'analyse et le traitement efficaces de jeux de données massifs. |
|
|
Realtime Compute for Apache Flink |
Plateforme d'analytique Big Data en temps réel basée sur Apache Flink avec une latence inférieure à la seconde. |
Concepts clés
|
Concept |
Description |
|
Pool de ressources |
Point d'entrée pour l'achat et la gestion des ressources de calcul. Dans un pool de ressources, vous créez des groupes de ressources, achetez des nœuds GPU et gérez les renouvellements et les résiliations. |
|
Quota de ressources (Quota) |
Unité qui alloue la capacité depuis un pool de ressources. Vous pouvez créer une hiérarchie parent-enfant de quotas (arborescence de quotas) pour distribuer les ressources par équipe ou par projet. Après avoir associé un quota à un espace de travail, DSW, DLC et EAS dans cet espace de travail peuvent utiliser la capacité allouée. |
|
Groupe de ressources |
Regroupement logique au sein d'un pool de ressources. Chaque groupe de ressources correspond à un ensemble de nœuds de calcul du même type. Un seul quota de ressources peut puiser la capacité dans plusieurs groupes de ressources. |
Flux de travail
Suivez ce flux de travail pour configurer les ressources de calcul IA cloud-native :
-
Achetez des ressources : Créez un groupe de ressources et achetez des ressources de calcul dans AI Computing Resources > Resource Pool.
Ressources de calcul à usage général : Pour plus de détails, consultez Créer un groupe de ressources et acheter des ressources de calcul à usage général
Ressources de calcul IA Lingjun : Pour plus de détails, consultez Créer un groupe de ressources et acheter des ressources Lingjun
Créez des quotas de ressources : Allouez la capacité aux différentes équipes dans AI Computing Resources > Resource Quota (Quota). Pour plus de détails, consultez Créer un quota de ressources.
Associez à un espace de travail : Associez un quota de ressources à un espace de travail afin que les membres de cet espace puissent utiliser la capacité allouée pour le développement et l'entraînement IA.
Utilisez le quota de ressources : Lors de la création d'une instance DSW, d'une tâche DLC ou d'un service EAS, sélectionnez le quota de ressources que vous avez créé comme source de calcul.
Les ressources de moteur Big Data utilisent une approche différente de gestion des quotas. Pour MaxCompute, consultez Quotas de ressources MaxCompute. Pour Realtime Compute for Apache Flink, consultez Gérer les ressources Flink entièrement gérées.
Configurations avancées
Politiques de planification : Configurez des politiques de planification de file d'attente pour améliorer l'efficacité de la mise en file d'attente et l'utilisation des ressources. Pour plus de détails, consultez Politiques de planification.
Politiques de préemption : Activez la préemption de capacité afin que les tâches puissent utiliser la capacité inactive des quotas frères ou enfants. Pour plus de détails, consultez Politique de préemption.
Surveillance et alertes : Consultez l'utilisation des ressources via CloudMonitor et ARMS, et configurez des notifications d'alerte. Pour plus de détails, consultez Surveillance et alertes.
Gestion intégrée des ressources d'entraînement et d'inférence : Exécutez des services d'inférence et des tâches d'entraînement sur le même cluster GPU pour améliorer l'utilisation globale. Pour plus de détails, consultez Gestion unifiée des ressources d'inférence et d'entraînement.
Facturation
Les ressources de calcul IA sont facturées par abonnement (mensuel ou annuel). Les frais dépendent des spécifications du nœud, de la quantité et de la durée de l'abonnement. Pour plus de détails, consultez Facturation des ressources de calcul IA.