GPU アクセラレーテッドインスタンス上で、大規模言語モデルの推論をデプロイし、高速化し、保護します。
環境構成とツールの使用法
-
NGC 環境をデプロイしてディープラーニング開発環境を構築する
GPU アクセラレーテッドインスタンスに NGC 環境をデプロイし、TensorFlow を例にディープラーニング開発環境をセットアップします。
-
eRDMA イメージを使用して eRDMA をすばやく構成する
eRDMA イメージを使用して GPU アクセラレーテッドインスタンス上で eRDMA を構成し、Docker などのコンテナ環境で高性能なネットワーク通信を有効にします。