このトピックでは、GPU トポロジーと、トポロジー対応 GPU スケジューリングの利点について説明します。
GPU トポロジー
次の図は、NVLink を介して相互に通信する 8 基の Tesla V100 GPU のハイブリッドキューブメッシュトポロジーを示しています。各 Tesla V100 GPU には 6 本の NVLink が割り当てられており、8 基の Tesla V100 GPU を完全相互接続にすることはできません。2 基の Tesla V100 GPU 間で確立できる NVLink 接続は最大 2 本です。
この例では、GPU0 は 2 本の NVLink を介して GPU3 および GPU4 に接続されています。GPU0 は 1 本の NVLink を介して GPU1 および GPU2 に接続されています。一方、GPU0 と GPU6 の間には NVLink 接続が存在せず、両者の通信は Peripheral Component Interconnect Express (PCIe) に依存します。
トポロジー対応 GPU スケジューリングの利点
各 NVLink の片方向の帯域幅と双方向の帯域幅は、それぞれ 25 GB/s と 50 GB/s です。PCIe リンクの帯域幅は 16 GB/s です。トレーニング中は、GPU の組み合わせが異なるとトレーニング速度に差が生じる場合があります。そのため、最適な GPU の組み合わせを選択して、最高のトレーニングパフォーマンスを実現できます。