Cette rubrique présente la topologie des GPU et les avantages de la planification GPU sensible à la topologie.
Topologie GPU
L'illustration suivante montre la topologie en maillage cubique hybride de huit GPU Tesla V100 qui communiquent entre eux via des NVLinks. Chaque GPU Tesla V100 dispose de six NVLinks, mais les huit GPU ne peuvent pas être entièrement interconnectés. Au maximum deux connexions NVLink relient deux GPU Tesla V100.
Dans cet exemple, le GPU0 est connecté aux GPU3 et GPU4 par deux NVLinks, et aux GPU1 et GPU2 par un seul NVLink. En revanche, aucune connexion NVLink n'existe entre le GPU0 et le GPU6 ; leur communication repose sur l'interface Peripheral Component Interconnect Express (PCIe).
Avantages de la planification GPU sensible à la topologie
La bande passante unidirectionnelle de chaque NVLink est de 25 Go/s et sa bande passante bidirectionnelle est de 50 Go/s. La bande passante du lien PCIe est de 16 Go/s. Pendant l'entraînement, la vitesse varie selon les combinaisons de GPU utilisées. Sélectionnez la combinaison optimale pour obtenir les meilleures performances d'entraînement.