PAI-TensorFlow optimise le noyau TensorFlow natif et propose des outils pour améliorer l'efficacité de l'entraînement en apprentissage profond. Il prend en charge l'architecture orientée services, la planification distribuée, l'ordonnancement global des calculs, le mappage GPU et la prédiction de modèle en ligne.
Les serveurs GPU du cloud public seront progressivement retirés. Vous pouvez continuer à soumettre des tâches TensorFlow exécutées sur des serveurs CPU. Pour utiliser des GPU afin d'entraîner des modèles, soumettez des jobs dans Deep Learning Containers (DLC). Pour plus d'informations, consultez la rubrique Créer un job d'entraînement.
Contexte
TensorFlow est un framework open source d'apprentissage profond développé par Google. Il prend en charge plusieurs modèles de réseaux neuronaux, notamment les réseaux neuronaux convolutifs (CNN), les réseaux neuronaux récurrents (RNN) et les mémoires à court et long termes (LSTM). TensorFlow permet un entraînement efficace des modèles dans des domaines tels que le traitement de la parole, des images et du texte. Ses fonctionnalités riches et ses API flexibles expliquent son large adoption.
PAI-TensorFlow est entièrement compatible avec le code TensorFlow natif et offre de meilleures performances dans de nombreux scénarios de production. Il constitue un composant de plusieurs produits Alibaba Cloud, tels que PAI et E-MapReduce (EMR).
Fonctionnalités
PAI-TensorFlow offre les fonctionnalités suivantes :
-
Architecture orientée services
MaxCompute est une plateforme big data Alibaba Cloud basée sur le système Apsara, au service de dizaines de milliers d'entreprises et de développeurs. PAI-TensorFlow vous permet d'exécuter le framework TensorFlow au sein de MaxCompute. Ses API sont identiques à celles de la version open source. Vous pouvez soumettre des jobs à un cluster de calcul MaxCompute en utilisant l'API TensorFlow Training Script.
-
Planification distribuée
PAI fournit d'immenses ressources de calcul gérées par GPU Quota. Le système de planification distribuée attribue dynamiquement les jobs PAI-TensorFlow à différentes machines. Inutile de réserver des hôtes GPU physiques à l'avance. Les ressources GPU sont allouées au démarrage d'un job et libérées à sa fin.
-
Ordonnancement global des calculs
Avec le moteur de calcul MaxCompute, vous pouvez soumettre des jobs SQL et des jobs PAI-TensorFlow dans le même projet. Le service d'ordonnancement global achemine automatiquement les jobs PAI-TensorFlow vers les clusters GPU appropriés et connecte les jobs de prétraitement des données sur les clusters CPU aux jobs d'entraînement de modèles sur les clusters GPU.
-
Mappage GPU
PAI-TensorFlow permet d'assigner différents opérateurs à des CPU ou GPU spécifiques. Grâce au mappage GPU, inutile de connaître la structure physique des GPU de l'hôte. PAI-TensorFlow mappe automatiquement les GPU demandés à l'espace de processus du job, les rendant visibles sous la forme
gpu:0,gpu:1, etc. -
Prédiction de modèle en ligne
PAI propose Elastic Algorithm Service (EAS). Déployez en un clic les modèles entraînés avec PAI-TensorFlow sur EAS. EAS prend en charge la mise à l'échelle dynamique, les mises à jour progressives, les tests A/B, un débit élevé et une faible latence.
Bibliothèques Python prises en charge
PAI-TensorFlow intègre des bibliothèques Python tierces courantes, telles que NumPy et Six. Importez ces bibliothèques directement dans vos jobs TensorFlow.