EPL (Easy Parallel Library) adalah framework pelatihan model terdistribusi yang menggabungkan berbagai teknik optimasi pelatihan dan menyediakan API sederhana untuk berbagai strategi paralelisasi. Gunakan EPL di DLC untuk pelatihan TensorFlow terdistribusi yang hemat biaya dan berkinerja tinggi.
Prasyarat
Pastikan hal-hal berikut:
-
Otorisasi peran terkait layanan untuk layanan DLC. Ketergantungan produk cloud dan otorisasi: DLC.
-
Siapkan lingkungan image Anda menggunakan image resmi atau image komunitas (NVIDIA TensorFlow 1.15 atau TensorFlow-GPU 1.15):
-
Jika Anda menggunakan image resmi, EPL telah dipra-instal.
-
Jika Anda menggunakan image komunitas, instal EPL terlebih dahulu. Install EPL.
CatatanUntuk DLC, gunakan image komunitas
tensorflow-training:1.15-gpu-py36-cu100-ubuntu18.04. EPL dapat diinstal melalui perintah eksekusi DLC. -
Langkah 1: Konfigurasikan code build
Tulis kode pelatihan TensorFlow terdistribusi dengan EPL. Panduan Quick Start menyediakan contoh-contohnya.
Atau, gunakan contoh ResNet-50 melalui code build. Saat Anda mengirimkan pekerjaan pelatihan, kode terbaru akan diklon secara otomatis. Konfigurasikan code build sebagai berikut.
-
Buka halaman Konfigurasi Kode.
-
Masuk ke PAI console.
-
Di panel navigasi kiri, klik Workspaces. Di halaman Daftar Workspace, klik nama workspace yang ingin Anda kelola.
-
Di panel navigasi kiri halaman workspace, pilih .
-
-
Di halaman Source Code Repositories, klik Create Code Build.
-
Di halaman Create Code Build, konfigurasikan parameter dan klik Submit.
Atur Git Repository Address menjadi
https://github.com/alibaba/EasyParallelLibrary.gitdan Code Branch menjadi main. Parameter lainnya dijelaskan dalam Konfigurasikan code build.
Langkah 2: Buat pekerjaan pelatihan
-
Buka halaman Buat Pekerjaan.
-
Masuk ke PAI console. Di bilah navigasi atas, pilih wilayah dan workspace yang dituju, lalu klik Go to DLC.
-
Di halaman Distributed Training (DLC), klik Create Task.
-
-
Di halaman Create Task, konfigurasikan parameter utama berikut dan klik OK. Parameter lainnya dijelaskan dalam Buat pekerjaan pelatihan.
-
Di bagian Basic Information, masukkan nama pekerjaan.
-
Di bagian Environment Information, konfigurasikan parameter berikut.
Parameter
Nilai contoh
Node Image
Pilih Alibaba Cloud Image > tensorflow-training:1.15-gpu-py36-cu100-ubuntu18.04.
Start Command
apt update apt install libnccl2 libnccl-dev cd /root/code/EasyParallelLibrary/ pip install . cd examples/resnet bash scripts/train_dp.shSource Code Repositories
Dari daftar drop-down Online Configuration, pilih
code buildyang telah Anda buat di Langkah 1 dan atur Branch menjadi main. -
Di bagian Resource Information, konfigurasikan parameter berikut.
Parameter
Nilai contoh
Resource Source
Pilih Public Resources.
Framework
Pilih TensorFlow.
Task Resources
Untuk node pekerja, konfigurasikan parameter berikut:
-
Nodes: Atur menjadi 2. Sesuaikan berdasarkan kebutuhan pelatihan Anda.
-
Instance Type: Pilih spesifikasi GPU ecs.gn6v-c8g1.2xlarge.
Maximum Running Time
Atur menjadi 2 jam.
-
-
Konfigurasikan parameter Task resource configuration sebagai berikut.
Parameter
Nilai contoh
Nodes
Atur menjadi 2. Sesuaikan berdasarkan kebutuhan pelatihan Anda.
Node configuration
Di tab GPU instance, pilih ecs.gn6v-c8g1.2xlarge.
Maximum running time
2 jam.
-
-
Di daftar pekerjaan, klik nama pekerjaan Anda untuk melihat detail dan memantau statusnya. Lihat detail pekerjaan pelatihan.