Calcul hétérogène pour tous les scénarios
Elastic GPU Service (EGS) offre un écosystème complet alliant logiciel et matériel pour vous aider à allouer les ressources de manière flexible, à dimensionner votre système de façon élastique, à renforcer la puissance de calcul et à réduire les coûts de vos activités liées à l'IA. Ce service s'applique à des scénarios tels que le deep learning, l'encodage et le décodage vidéo, le traitement vidéo, le calcul scientifique, la visualisation graphique et le cloud gaming.
Elastic GPU Service (EGS) offre des capacités de calcul accéléré par GPU et des ressources de calcul GPU évolutives, prêtes à l'emploi. Les GPU présentent des avantages uniques pour le calcul mathématique et géométrique, en particulier le calcul en virgule flottante et le calcul parallèle. Les GPU offrent une puissance de calcul 100 fois supérieure à celle de leurs homologues CPU.
Capacités de calcul variées
Il dispose d'un grand nombre d'unités arithmétiques et logiques (ALU) pouvant être utilisées pour le calcul parallèle à grande échelle. Elastic GPU Service (EGS) utilise les dernières puces d'accélération GPU et propose divers types de cartes d'accélération (tels que FPGA, GPU et ASIC) pour répondre à des besoins métier variés (tels que l'IA, le graphisme, le transcodage et le chiffrement).
Facilité d'utilisation
Les ressources GPU sont déployées à l'échelle mondiale dans différentes zones géographiques. Des unités de contrôle logique simples vous permettent de dimensionner votre système en fonction de vos besoins métier. Elastic GPU Service (EGS) fournit également des outils auxiliaires (tels que AIACC, FastGPU et cGPU).
Performances réseau élevées
Le service utilise l'architecture SHENLONG pour améliorer les performances des serveurs et réduire la latence d'E/S. Le GPU prend en charge jusqu'à 24 millions de pps et une bande passante allant jusqu'à 64 Gbit/s via les VPC. Il est adapté aux scénarios à haut débit où plusieurs threads s'exécutent en parallèle pour traiter les tâches de calcul.
Logiciels GPU pour optimiser l'efficacité de calcul
AIACC-Training
Alibaba Cloud AIACC-Training est un accélérateur d'IA optimisé pour les environnements Alibaba Cloud. Il améliore considérablement l'efficacité de l'entraînement distribué en IA et l'utilisation de la bande passante réseau. AIACC-Training a établi deux records mondiaux :
Vitesse d'entraînement la plus rapide lors de la compétition DAWNBench ImageNet (organisée par l'université Stanford)
Coût d'entraînement le plus bas lors de la compétition DAWNBench ImageNet (organisée par l'université Stanford)
En savoir plus >
Fonctionnalités
-
Prise en charge des principaux frameworksFrameworks d'entraînement distribué : TensorFlow, PyTorch, MXNet et Caffe
-
Amélioration des performances de 50 % à 300 %
Modèles réseau à bande passante intensive
-
Communication haute performance pour un ou plusieurs serveurs multi-GPU
Prise en charge de la compression de gradient FP16 et de la compression en précision mixte
-
Extensions d'API pour MXNet
Prise en charge du parallélisme de données et du parallélisme de modèle de type InsightFace
-
Optimisation approfondie pour les réseaux RDMA
Communication par liaison hybride (RDMA et VPC)
Fonctionne au mieux avec
AIACC-Inference
Alibaba Cloud AIACC-Inference est un accélérateur d'IA optimisé pour les environnements Alibaba Cloud. Il améliore considérablement l'utilisation du GPU et les performances d'inférence. AIACC-Inference a établi deux records mondiaux :
Latence d'inférence la plus faible lors de la compétition DAWNBench ImageNet (organisée par l'université Stanford)
Coût d'inférence le plus bas lors de la compétition DAWNBench ImageNet (organisée par l'université Stanford)
En savoir plus >
Fonctionnalités
-
Prise en charge de multiples frameworks
TensorFlow, PyTorch, MXNet et d'autres frameworks de deep learning peuvent exporter des modèles au format Open Neural Network Exchange (ONNX) pour améliorer les performances d'inférence
-
Amélioration des performances de 30 % à 400 %
Modèles réseau à forte intensité de calcul
-
Prise en charge de plusieurs précisions de modèle
Optimisation des modèles sur FP32 et FP16
Fonctionne au mieux avec
Outil de déploiement de clusters GPU
Alibaba Cloud FastGPU est un ensemble d'outils de déploiement rapide pour les clusters GPU, permettant de déployer des ressources de calcul GPU sur le cloud en quelques clics. FastGPU est simple à configurer et peut être utilisé facilement partout. FastGPU offre une solution rapide, économique et facile à utiliser pour le déploiement de clusters GPU.
En savoir plus >
Fonctionnalités
-
Déploiement rapide
Opérations d'API pour le déploiement rapide de scripts d'entraînement hors ligne et d'inférence dans les clusters GPU
-
Gestion simplifiée
Fournit un outil en ligne de commande pour gérer le statut et le cycle de vie des clusters GPU
-
Efficace et rapide
Aucune opération de déploiement n'est nécessaire pour le calcul, le stockage et le réseau au niveau de la couche IaaS d'Alibaba Cloud. L'environnement approprié est automatiquement obtenu lorsque vous accédez aux ressources du cluster.
Fonctionne au mieux avec
Logiciel de partage GPU pour conteneurs
Cette solution permet à plusieurs conteneurs d'utiliser un seul GPU en divisant et en attribuant les ressources GPU à plusieurs conteneurs isolés. cGPU peut exécuter plusieurs conteneurs sur un seul GPU et isoler les applications GPU entre les conteneurs. Ainsi, l'utilisation des ressources matérielles GPU est améliorée.
En savoir plus >
Fonctionnalités
-
Partage de GPU
Répartit les ressources GPU pour améliorer l'utilisation du GPU
-
Partage de GPU
Réduction des coûts grâce au partage de GPU entre plusieurs applications d'IA
-
Flexibilité
Répartit de manière flexible la puissance de calcul et la mémoire GPU pour répondre aux exigences des applications
Fonctionne au mieux avec
Elastic GPU Service vs serveurs GPU autogérés
| Critère | Elastic GPU Service | Serveur GPU autogéré |
|---|---|---|
|
|
· Créez facilement une ou plusieurs instances accélérées par GPU · Modification flexible de la configuration des instances : lorsqu'une instance ne répond plus à vos besoins, un simple redémarrage suffit pour changer de spécifications au sein de la même famille. · Bandes passantes ajustables |
· Nécessite une période d'abonnement prolongée · Les configurations ne peuvent pas être modifiées · Nécessite un achat unique de bande passante sortante non ajustable |
|
|
· Console web intégrée pour la gestion en ligne · Système d'exploitation standard préinstallé (tel qu'un système Windows authentique activé), remplaçable en ligne · Possibilité d'acheter et d'installer les pilotes GPU lors de l'achat de l'instance |
· Ne fournit pas d'outils de gestion en ligne et nécessite une gestion et une maintenance manuelles · Vous devez fournir, installer et remplacer le système d'exploitation vous-même · Vous devez préparer et installer les systèmes d'exploitation manuellement |
|
|
· Stocke trois copies de chaque donnée. En cas de corruption d'une copie, les données peuvent être restaurées rapidement · Les pannes matérielles sont résolues rapidement et automatiquement |
· Vous devez créer manuellement un environnement de reprise après sinistre et utiliser des dispositifs de stockage traditionnels coûteux · Vous devez corriger manuellement les données corrompues |
|
|
· Prend en charge les modes de facturation Abonnement et Paiement à l'utilisation. Vous pouvez choisir le mode adapté à vos besoins métier · Achetez des ressources à la demande sans investissement initial important |
· Nécessite l'achat anticipé de ressources pour répondre aux besoins de configuration en heures de pointe · Requiert un investissement initial important et entraîne un gaspillage de ressources |
Scénarios
Solution leader du secteur et haute performance
Alibaba Cloud Elastic GPU Service (EGS) fournit des solutions leaders du secteur offrant haute performance, évolutivité et fiabilité de niveau entreprise pour la simulation et l'analyse d'ingénierie. Grâce à une mémoire GPU étendue et des performances GPU élevées, vous pouvez exploiter cette puissance de calcul pour réaliser des simulations complexes et résoudre des problèmes exigeants.
Avantages
-
Solution optimisée
Exploite la modélisation CFD pour réduire considérablement le temps de résolution
-
Conception électronique accélérée en électromagnétisme computationnel
Aide à concevoir des produits et composants électroniques haute performance en simulant les performances électromagnétiques et en prédisant le rayonnement, les interférences et la transmission électromagnétiques
-
Simulation d'ingénierie
Applications virtualisées dans le cloud qui améliorent la productivité et réduisent les budgets informatiques
Fonctionne au mieux avec
Traitement vidéo HD pour un affichage optimal
Les tâches de traitement vidéo rencontrent souvent des difficultés (volumes de données importants, temps de traitement prolongés). Le GPU peut exécuter des tâches en parallèle et être utilisé pour optimiser le traitement vidéo. Le GPU est principalement employé dans des domaines tels que le transcodage vidéo haute définition à grande échelle, le streaming en direct 4K et 8K, la visioconférence multi-utilisateurs et la restauration de sources vidéo.
Avantages
-
Haute performance
Optimisations pour améliorer les performances de calcul
-
Puissance de calcul supérieure
Prend en charge le traitement rapide de données multi-images et fournit la puissance de calcul nécessaire pour traiter un grand nombre de tâches informatiques
Fonctionne au mieux avec
Calcul haute performance
Le GPU joue un rôle essentiel dans le calcul scientifique (prévision météorologique, exploration des hydrocarbures, recherche en dynamique moléculaire, etc.), qui nécessite un calcul parallèle à grande échelle. Combiné au calcul élastique, le GPU fournit la puissance de calcul nécessaire aux opérations en virgule flottante à grande échelle. Cette puissance de calcul est disponible en ligne et hors ligne.
Avantages
-
Auto Scaling
S'intègre à Auto Scaling (ESS) et Server Load Balancer (SLB) pour mettre en œuvre la mise à l'échelle automatique
-
Puissance de calcul supérieure
Fournit les derniers GPU et des méthodes de déploiement rapides pour répondre aux exigences de calcul élevées du calcul scientifique
Fonctionne au mieux avec
Témoignages clients
Le facteur décisif principal était la précision de reconnaissance : la plateforme Vision AI a reconnu les plaques d'immatriculation pour le traitement en mosaïque avec une précision de plus de 90 % dès le début du processus de validation.
Après un réglage approfondi, le système a pu effectuer automatiquement la reconnaissance et le traitement en mosaïque avec une précision de plus de 95 % au moment de son déploiement.
– M. Chiaki Uchiyama, responsable de section, Frima Marketing Section, Frima Division, IDOM Co.
IDOM Inc. (Chiyoda-ku, Tokyo) exploite une activité d'achat et de vente de véhicules d'occasion, gérant l'un des plus grands volumes de données de distribution automobile au Japon. L'entreprise a récemment ouvert des magasins de grande taille avec des services de maintenance, de carrosserie et d'après-vente améliorés.
La plateforme IDOM permet aux utilisateurs de télécharger librement des photos des véhicules qu'ils souhaitent vendre, mais elle est confrontée à des limitations en libre-service et à une augmentation des heures de travail dues aux vérifications et reprises manuelles. Alibaba Cloud peut contribuer à fournir une technologie de reconnaissance d'image hautement précise et un accompagnement personnalisé.
Ms-meta.HK a exploité une variété de services d'Alibaba Cloud pour la mise en œuvre de sa solution. Ces services, associés aux experts techniques locaux et à l'équipe de support dédiée d'Alibaba Cloud, ont permis à Ms-meta.HK de lancer facilement son offre Metaverse auprès du public.
Ms-meta.HK est un projet Metaverse décentralisé et communautaire basé à Hong Kong (Chine). Ms-meta.HK utilise activement les technologies de rendu cloud et de distribution de trafic d'Alibaba Cloud dans son Metaverse. Cette collaboration permet à Ms-meta.HK d'optimiser les scènes virtuelles de son Metaverse et de réduire les temps de chargement pour offrir une meilleure expérience utilisateur. De plus, l'entreprise protège ses serveurs exposés publiquement grâce à l'offre de sécurité robuste d'Alibaba Cloud. Ms-meta.HK souhaite continuer à optimiser ses services d'infrastructure Metaverse avec l'aide d'Alibaba Cloud.
Dans le cadre de son activité principale, ADVANCE utilise diverses solutions cloud natives de stockage et de gestion de données sur Alibaba Cloud pour gérer son entrepôt de données et ses processus d'analyse de données pour ses algorithmes d'IA et de machine learning. Par exemple, ADVANCE utilise ApsaraDB for Redis pour la mise en cache en mémoire et l'accès à haute vitesse, ApsaraDB for MongoDB pour le stockage flexible de données semi-structurées, DataWorks pour l'agrégation, le traitement et la gouvernance de données provenant de diverses sources, et Realtime Compute for Apache Flink pour le traitement big data en temps réel.
Advance Intelligence Group (ADVANCE) est une entreprise technologique basée en Asie-Pacifique, spécialisée dans l'IA, et l'un des acteurs majeurs du marché d'Asie du Sud-Est, notamment en Indonésie.
ADVANCE s'engage à fournir à ses clients des services d'IA améliorés. Alibaba Cloud continuera d'accompagner ADVANCE dans sa réussite grâce à des services d'infrastructure cloud innovants. L'association de l'IA et du cloud computing apportera une valeur ajoutée considérable aux clients, avec une efficacité, une productivité et une sécurité numérique accrues.
