Les instances CPU de base suffisent généralement aux scénarios de calcul généraliste sur Function Compute, tels que les services web et le traitement des données. Toutefois, pour les scénarios nécessitant un calcul parallèle à grande échelle ou l'apprentissage profond, comme le traitement audio et vidéo, l'inférence en intelligence artificielle (IA) et la retouche d'image, les instances accélérées par GPU améliorent considérablement l'efficacité du calcul.
Pour les instances GPU, Function Compute propose trois types d'instance : les instances élastiques, les instances réservées et les instances réservées + élastiques (mode hybride). Sélectionnez le type d'instance et les spécifications les mieux adaptés à vos besoins métier afin de garantir une stabilité opérationnelle tout en optimisant l'utilisation des ressources et les performances.
Sélection du type d'instance
Les fonctions CPU prennent uniquement en charge les instances élastiques. Les fonctions GPU prennent en charge trois types d'instance, entre lesquels vous pouvez basculer à tout moment sans interruption de service.
Guide de décision
Répondez aux questions suivantes pour identifier le type d'instance approprié :
Votre charge de travail est-elle sensible à la latence et interactive ? Par exemple, un chatbot en temps réel ou une API de génération d'images. Si oui, utilisez des instances réservées pour éliminer les démarrages à froid et garantir les temps de réponse.
Votre trafic suit-il une base prévisible avec des pics occasionnels ? Si oui, utilisez le mode hybride (instances réservées + élastiques) pour maintenir une capacité de base stable tout en absorbant les pics de trafic.
Votre trafic est-il variable, sporadique ou de faible fréquence ? Si oui, utilisez des instances élastiques et ne payez que pour l'utilisation active.
Comparaison des types d'instance
|
Instance élastique |
Instance réservée |
Réservée + Élastique (Mode hybride) |
|
|
S'applique à |
Fonctions CPU (seule option) ; Fonctions GPU |
Fonctions GPU uniquement |
Fonctions GPU uniquement |
|
Démarrage à froid |
Oui, si le nombre minimum d'instances est égal à 0. Définissez le nombre minimum d'instances à 1 ou plus pour pré-allouer les ressources et réduire les démarrages à froid. |
Aucun. Toutes les requêtes dans la limite de la capacité allouée obtiennent une réponse en temps réel. |
Partiel. Les requêtes traitées par le pool de ressources dédié ne subissent aucun démarrage à froid ; les instances ajoutées par mise à l'échelle élastique en subissent un. |
|
Modèle de facturation |
Paiement à l'utilisation |
Abonnement |
Abonnement (partie réservée) + paiement à l'utilisation (partie élastique) |
|
Idéal pour |
Trafic variable ou de faible fréquence ; charges de travail sensibles aux coûts |
Charges de travail avec trafic stable ou sensible à la latence |
Charges de travail avec une base prévisible et des pics de trafic imprévisibles |
Instance élastique
Les instances élastiques s'adaptent automatiquement au volume de requêtes et sont libérées lorsqu'elles sont inactives. La définition du nombre minimum d'instances à 0 vous offre un modèle de pur paiement à l'utilisation : vous ne payez que pour l'utilisation active.
Comportement de démarrage à froid : Les démarrages à froid se produisent lorsque les instances passent de zéro à une valeur supérieure. Pour réduire la latence de démarrage à froid, définissez le nombre minimum d'instances à 1 ou plus. Cette configuration pré-alloue les ressources élastiques afin que les instances soient prêtes à traiter rapidement les requêtes entrantes.
Facturation : Les coûts incluent les frais pour les instances dans les états actif et Veille peu profonde. En veille peu profonde, les ressources vCPU ne sont pas facturées et les ressources GPU sont facturées au cinquième du tarif actif. Si vous définissez le nombre minimum d'instances à 1 ou plus, activez la veille peu profonde pour réduire les coûts liés à l'inactivité.
Utilisez des instances élastiques lorsque :
Votre trafic est variable, sporadique ou de faible fréquence
Vous souhaitez payer uniquement pour l'utilisation réelle
Votre charge de travail peut tolérer une latence occasionnelle de démarrage à froid (ou vous l'atténuez en définissant un nombre minimum d'instances)
Instance réservée
Les instances réservées s'appliquent uniquement aux fonctions GPU. Achetez à l'avance un pool de ressources dédié (anciennement pool de ressources résident), puis allouez un nombre et un type spécifiques d'instances à votre fonction. Cela élimine les démarrages à froid dans la limite de votre capacité allouée et vous offre des coûts fixes et prévisibles.
Comportement de démarrage à froid : Aucun. Toutes les requêtes dans la limite de votre capacité allouée reçoivent une réponse en temps réel. Le nombre maximal de requêtes simultanées est égal à (Nombre d'instances réservées allouées) × (Concurrence de l'instance). Les requêtes dépassant cette limite sont limitées (throttling).
Facturation : Le frais d'abonnement total pour tous les pools de ressources dédiés achetés .
Les instances réservées sont disponibles uniquement pour les fonctions GPU des séries Ada, Ada.2, Ada.3, Hopper ou Xpu.1.
Utilisez des instances réservées lorsque :
Votre charge de travail est sensible à la latence et interactive (par exemple, un chatbot en temps réel ou une API de génération d'images)
Votre trafic est stable et prévisible
Vous avez besoin d'une capacité garantie et de temps de réponse cohérents
Instances réservées + élastiques (Mode hybride)
Le mode hybride s'applique uniquement aux fonctions GPU. Il combine les instances réservées et élastiques : le pool de ressources dédié traite d'abord le trafic en état stable, et les instances élastiques s'ajoutent automatiquement lorsque les requêtes dépassent la capacité du pool dédié. Cela vous offre une base garantie avec la flexibilité nécessaire pour absorber les pics de trafic soudains.
Comportement de démarrage à froid : Partiel. Les requêtes traitées au sein du pool de ressources dédié ne subissent aucun démarrage à froid. Les requêtes qui déclenchent une mise à l'échelle automatique vers de nouvelles instances élastiques subissent un démarrage à froid.
Facturation : La partie réservée est facturée selon le quota de votre pool de ressources dédié acheté. Les instances élastiques lancées au-delà du quota du pool dédié sont facturées selon le modèle de paiement à l'utilisation, aux mêmes tarifs que les instances élastiques actives et en veille peu profonde.
Utilisez le mode hybride lorsque :
Votre trafic présente une base prévisible mais des pics occasionnels
Vous souhaitez des performances stables pour la charge normale avec la capacité de gérer le trafic en pic
Vous avez besoin d'un équilibre entre la prévisibilité des coûts et la flexibilité de mise à l'échelle
Spécifications d'instance
-
Instances CPU
vCPU (cœur)
Taille de la mémoire (Mo)
Taille maximale du package de code (Go)
Durée maximale d'exécution de la fonction (s)
Taille maximale du disque (Go)
Bande passante maximale (Gbit/s)
0,05 à 16
Remarque : La valeur doit être un multiple de 0,05.
128 à 32768
Remarque : La valeur doit être un multiple de 64.
10
86400
10
Valeurs valides :
512 Mo. Il s'agit de la valeur par défaut.
10 Go.
5
RemarqueLe ratio entre les vCPU et la taille de la mémoire (en Go) doit être compris entre 1:1 et 1:4.
-
Spécifications matérielles des instances GPU
Type d'instance
Mémoire GPU
Puissance de calcul FP16
Puissance de calcul FP32
Nombre maximal de cartes par instance
fc.gpu.tesla.1
16 Go
65 TFLOPS
8 TFLOPS
4 cartes
fc.gpu.ampere.1
24 Go
125 TFLOPS
31,2 TFLOPS
8 cartes
fc.gpu.ada.1
48 Go
119 TFLOPS
60 TFLOPS
fc.gpu.ada.2
24 Go
166 TFLOPS
83 TFLOPS
fc.gpu.ada.3
48 Go
148 TFLOPS
73,5 TFLOPS
fc.gpu.hopper.1
96 Go
148 TFLOPS
44 TFLOPS
fc.gpu.hopper.2
141 Go
148 TFLOPS
44 TFLOPS
fc.gpu.blackwell.1
32 Go
104,8 TFLOPS
104,8 TFLOPS
fc.gpu.xpu.1
96 Go
123 TFLOPS
61,5 TFLOPS
16 cartes
-
Règles de configuration des vCPU et de la mémoire pour les instances GPU
RemarqueFormule pour les ressources multi-cartes : Total des vCPU = vCPU par carte × Nombre de cartes, et Mémoire totale = Mémoire par carte × Nombre de cartes.
Type d'instance
vCPU (par carte)
Plage de mémoire par carte
Incrément de mémoire
fc.gpu.tesla.1
4 cœurs
4 à 16 Go (4 096 à 16 384 Mo)
4 Go (4 096 Mo)
8 cœurs
8 à 32 Go (8 192 à 32 768 Mo)
16 cœurs
16 à 64 Go (16 384 à 65 536 Mo)
fc.gpu.ampere.1
8 cœurs
8 à 32 Go (8 192 à 32 768 Mo)
16 cœurs
16 à 32 Go (16 384 à 32 768 Mo)
fc.gpu.ada.1
fc.gpu.ada.2
fc.gpu.ada.3
4 cœurs
16 à 32 Go (16 384 à 32 768 Mo)
8 cœurs
32 à 64 Go (32 768 à 65 536 Mo)
16 cœurs
64 à 120 Go (65 536 à 122 880 Mo)
fc.gpu.hopper.1
4 cœurs
16 à 32 Go (16 384 à 32 768 Mo)
8 cœurs
32 à 64 Go (32 768 à 65 536 Mo)
16 cœurs
64 à 96 Go (65 536 à 98 304 Mo)
24 cœurs
96 à 120 Go (98 304 à 122 880 Mo)
fc.gpu.hopper.2
4 cœurs
16 à 32 Go (16 384 à 32 768 Mo)
8 cœurs
32 à 64 Go (32 768 à 65 536 Mo)
16 cœurs
64 à 128 Go (65 536 à 131 072 Mo)
24 cœurs
96 à 248 Go (98 304 à 253 952 Mo)
fc.gpu.blackwell.1
4 cœurs
16 à 32 Go (16 384 à 32 768 Mo)
8 cœurs
32 à 64 Go (32 768 à 65 536 Mo)
16 cœurs
64 à 120 Go (65 536 à 122 880 Mo)
24 cœurs
96 à 184 Go (98 304 à 188 416 Mo)
fc.gpu.xpu.1
4 cœurs
16 à 48 Go (16 384 à 49 152 Mo)
8 cœurs
32 à 96 Go (32 768 à 98 304 Mo)
12 cœurs
48 à 120 Go (49 152 à 122 880 Mo)
-
Les instances accélérées par GPU prennent également en charge les spécifications de ressources suivantes.
Taille de l'image (Go)
Durée maximale d'exécution de la fonction (s)
Taille du disque
Bande passante maximale (Gbit/s)
ACR Enterprise Edition (Standard Edition) : 15
ACR Enterprise Edition (Premium Edition) : 15
ACR Enterprise Edition (Basic Edition) : 15
ACR Personal Edition (Free) : 15
86400
512 Mo
10 Go à 200 Go, par incréments de 10 Go
5
RemarqueLa définition du type d'instance sur g1 équivaut à la définir sur fc.gpu.tesla.1.
Les instances accélérées par GPU de la série Tesla sont prises en charge dans les régions suivantes : Chine (Hangzhou), Chine (Shanghai), Chine (Beijing), Chine (Zhangjiakou), Chine (Shenzhen), Japon (Tokyo), États-Unis (Virginie) et Singapour.
Les instances accélérées par GPU de la série Ada sont prises en charge dans les régions suivantes : Chine (Beijing), Chine (Hangzhou), Chine (Shanghai), Chine (Shenzhen), Singapour et États-Unis (Virginie).
Relation entre les spécifications des instances GPU et la concurrence des instances
Un GPU Ada.1 dispose de 48 Go de mémoire, tandis qu'un GPU de la série Tesla en dispose de 16 Go. Function Compute alloue la totalité de la mémoire d'une carte GPU à un seul conteneur GPU. Étant donné que le quota par défaut de cartes GPU est limité à 30 maximum par région, un maximum de 30 conteneurs GPU peuvent s'exécuter simultanément dans cette région.
Si la concurrence de l'instance d'une fonction GPU est de 1, la fonction peut traiter jusqu'à 30 requêtes d'inférence simultanément dans une région.
Si la concurrence de l'instance d'une fonction GPU est de 5, la fonction peut traiter jusqu'à 150 requêtes d'inférence simultanément dans une région.
Concurrence par instance unique
Pour améliorer l'utilisation des ressources, configurez la concurrence par instance unique en fonction des besoins en ressources de votre application. Dans cette configuration, plusieurs tâches peuvent s'exécuter sur une seule instance et partager les ressources CPU et mémoire, ce qui améliore l'utilisation globale des ressources. Pour plus d'informations, consultez Configurer la concurrence des instances.
Durée d'exécution pour une instance unique, concurrence unique
Lorsqu'une instance exécute une seule requête, la durée d'exécution est mesurée depuis l'arrivée de la requête sur l'instance jusqu'à la fin de son exécution.
Durée d'exécution pour une instance unique, concurrence multiple
Lorsqu'une instance exécute plusieurs requêtes simultanément, la durée d'exécution est mesurée depuis l'arrivée de la première requête sur l'instance jusqu'à la fin de la dernière requête. Cette réutilisation des ressources permet de réaliser des économies.
Références
Pour plus d'informations sur les méthodes de facturation et les éléments facturables de Function Compute, consultez Présentation de la facturation.
Lorsque vous utilisez une API pour créer une fonction, vous pouvez utiliser le paramètre
instanceTypepour spécifier le type d'instance. Pour plus d'informations, consultez CreateFunction.Pour savoir comment spécifier le type et les spécifications de l'instance dans la console, consultez Création de fonction.