Distributed Training DLC (Deep Learning Containers) berjalan di Kubernetes dan menyediakan lingkungan pelatihan siap pakai untuk beban kerja pembelajaran mendalam terdistribusi. DLC memungkinkan Anda langsung mengirimkan pekerjaan pelatihan tanpa perlu mengonfigurasi kluster, menggunakan framework seperti PyTorch, TensorFlow, dan Megatron di sumber daya komputasi GPU dan Lingjun AI Compute.
Manfaat utama
Sumber daya komputasi beragam
Berjalan di sumber daya komputasi Lingjun AI Compute dan sumber daya komputasi tujuan umum, termasuk ECS cloud, ECI, instans bare-metal Shenlong, dan instans bare-metal Lingjun. Mendukung penjadwalan komputasi heterogen di antara jenis sumber daya ini.
Dukungan framework luas
Jalankan pekerjaan di lebih dari sepuluh framework pelatihan—termasuk Megatron, DeepSpeed, PyTorch, TensorFlow, MPI, dan XGBoost—tanpa perlu menyiapkan kluster. DLC menyediakan berbagai image bawaan dan mendukung lingkungan runtime kustom. Kirim pekerjaan melalui Konsol, SDK, atau CLI.
Stabilitas tinggi
Untuk pelatihan model besar, DLC mengurangi kehilangan komputasi dan meningkatkan stabilitas pelatihan melalui mesin toleransi kesalahan AIMaster proprietary, framework checkpoint berkinerja tinggi EasyCKPT, deteksi kesehatan SanityCheck, serta perbaikan node otomatis.
Kinerja tinggi
Framework akselerasi pelatihan AI proprietary mendukung berbagai strategi paralelisme—termasuk paralelisme data, paralelisme pipeline, dan pemisahan operator—dengan pencarian strategi otomatis dan optimasi memori. Dikombinasikan dengan penjadwalan yang sadar topologi, fusi grup gradien, dan komunikasi presisi campuran, DLC meningkatkan efisiensi pelatihan terdistribusi. Cocok untuk beban kerja pre-training model besar, pelatihan lanjutan, dan penyelarasan.
Kasus penggunaan
Pra-pemrosesan data: Jalankan pra-pemrosesan paralel offline menggunakan lingkungan runtime kustom untuk mengurangi kompleksitas persiapan data pelatihan.
Pelatihan terdistribusi skala besar: Latih model menggunakan ribuan node secara simultan dengan berbagai framework pembelajaran mendalam open-source, sehingga waktu pelatihan berkurang signifikan.
Inferensi offline: Jalankan pekerjaan inferensi offline dengan DLC untuk meningkatkan pemanfaatan GPU selama periode idle.
Jenis sumber daya
PAI menyediakan dua jenis sumber daya yang dapat Anda pilih sesuai kebutuhan komputasi:
Lingjun AI Compute: Sumber daya komputasi berkinerja tinggi yang dirancang untuk pelatihan model besar, mendukung beban kerja pembelajaran mendalam skala sangat besar. Cocok untuk pelatihan model besar, kendaraan otonom, dan riset ilmiah yang memerlukan kapasitas komputasi masif.
Komputasi tujuan umum: Sumber daya fleksibel untuk beban kerja pelatihan standar, mendukung tugas pembelajaran mesin dalam berbagai skala dan jenis.
Kedua jenis sumber daya—Lingjun AI Compute dan komputasi tujuan umum—tersedia dalam mode penggunaan berikut:
Kuota sumber daya: Beli sumber daya komputasi Lingjun atau tujuan umum dengan komitmen subscription untuk kebutuhan pelatihan jangka panjang yang stabil.
Sumber daya publik: Gunakan sumber daya komputasi Lingjun atau tujuan umum sesuai permintaan saat mengirimkan pekerjaan, dengan penagihan bayar sesuai penggunaan. Tidak diperlukan pembelian di muka.
Spot instans: Lingjun AI Compute menyediakan spot instans untuk mendapatkan kapasitas komputasi AI dengan biaya lebih rendah.
Fitur utama
Pembuatan dan pengelolaan pekerjaan
Buat pekerjaan pelatihan: Kirim pekerjaan pelatihan dari Konsol, SDK, atau CLI, dengan mengonfigurasi image, set data, jenis sumber daya, dan perintah startup.
Lihat detail pekerjaan: Lihat informasi dasar pekerjaan, tampilan sumber daya, dan log operasi.
Kelola pekerjaan pelatihan: Hentikan, kloning, bagikan, hasilkan skrip, dan hapus pekerjaan.
Konfigurasi penjadwalan offline: Secara otomatis kirimkan pekerjaan DLC untuk pelatihan inkremental dan tuning model ketika data atau hiperparameter diperbarui.
Konfigurasi penyimpanan: Pasang atau konfigurasikan Object Storage Service (OSS), Apsara File Storage NAS (NAS), Cloud Parallel File Storage (CPFS).
Pemantauan dan notifikasi pekerjaan
Lihat laporan analisis pekerjaan pelatihan: Visualisasikan metrik pelatihan dan laporan analisis dengan TensorBoard.
Pantau pekerjaan dengan CloudMonitor atau ARMS: Lihat penggunaan sumber daya untuk pekerjaan DLC atau konfigurasikan aturan peringatan.
Konfigurasi notifikasi: Buat aturan notifikasi di pusat event ruang kerja PAI untuk melacak perubahan status pekerjaan secara real time.
Akselerasi jaringan dan komunikasi
Konfigurasi RDMA: Konfigurasikan jaringan RDMA (Remote Direct Memory Access) berkinerja tinggi untuk mempercepat komunikasi antar-node saat menggunakan sumber daya Lingjun AI Compute.
ACCL: Pustaka komunikasi kolektif berkinerja tinggi proprietary Alibaba Cloud: Komunikasi kolektif berkinerja tinggi yang dioptimalkan untuk karakteristik jaringan Alibaba Cloud dan pola komunikasi model besar, dilengkapi diagnostik kesalahan dan self-healing bawaan.
Tingkatkan kecepatan akses internet dengan gerbang privat: Buat gerbang NAT publik untuk VPC tempat instans Anda berada, lalu konfigurasikan SNAT agar instans dapat mengakses internet melalui gerbang publik khusus dengan kecepatan tinggi.
Optimasi biaya
Spot instans: Buat pekerjaan DLC menggunakan spot instans Lingjun untuk mendapatkan kapasitas komputasi AI dengan biaya lebih rendah.
Gunakan sumber daya periode idle: Kirim pekerjaan komputasi prioritas rendah yang memanfaatkan kapasitas idle dari kuota lain untuk meningkatkan pemanfaatan sumber daya dan mengurangi biaya pelatihan tanpa memengaruhi beban kerja normal.
Elastisitas dan toleransi kesalahan
Toleransi kesalahan otomatis: AIMaster memantau status pekerjaan dan secara otomatis mendeteksi serta memulihkan dari kegagalan.
Pemeriksaan kesehatan: Deteksi kesehatan sumber daya sebelum pelatihan dimulai dan isolasi node yang rusak secara otomatis.
EasyCKPT: Menyediakan checkpointing dan pemulihan model tanpa kehilangan data untuk pelatihan model besar PyTorch, dengan dukungan melanjutkan dari checkpoint.
PerfTracker: Analisis dan diagnostik kinerja online: Mengumpulkan fungsi kernel CUDA, catatan eksekusi fungsi Python, dan metrik perangkat keras dari setiap worker secara real time, lalu secara otomatis menghasilkan laporan analisis untuk mengidentifikasi node lambat, fungsi bottleneck, dan masalah hang.
Penagihan
DLC terutama menagih berdasarkan sumber daya komputasi:
Jenis sumber daya komputasi | Metode penagihan | Subjek penagihan | Aturan penagihan | Penagihan berhenti saat |
Sumber daya publik | Pay-as-you-go | Durasi pekerjaan DLC berjalan (waktu pekerjaan menggunakan sumber daya publik). |
|
|
Sumber daya komputasi AI (komputasi tujuan umum dan Lingjun AI Compute) | Subscription | Untuk detailnya, lihat Penagihan sumber daya komputasi AI. | Untuk detailnya, lihat Penagihan sumber daya komputasi AI. | Tidak berlaku |
Untuk informasi lebih lanjut, lihat Penagihan untuk DLC.
Mulai cepat
Menggunakan contoh pengenalan digit tulisan tangan MNIST, pelajari cara menjalankan pelatihan terdistribusi single-node single-GPU atau multi-node multi-GPU dengan DLC. Untuk detailnya, lihat Memulai dengan Deep Learning Containers (DLC).
Dapatkan bantuan
FAQ DLC: Untuk masalah seperti kegagalan memulai atau menghentikan pekerjaan, pertanyaan penagihan, atau error pelatihan, lihat FAQ DLC.
Asisten AI PAI (Agentic PAI): Klik ikon
di pojok kanan atas Konsol PAI untuk membuka Asisten AI PAI (Agentic PAI). Agentic PAI menyediakan panduan pengguna dan petunjuk operasional untuk produk PAI end-to-end. Fitur ini mendukung diagnostik O&M untuk instans DSW, tugas DLC, dan layanan EAS, secara otomatis mengidentifikasi akar penyebab kegagalan dan memberikan rekomendasi troubleshooting.
Referensi
Buat pekerjaan pelatihan: Kirim pekerjaan pelatihan dari Konsol, SDK, atau CLI, dan pelajari cara mengonfigurasi parameter utama.
Kasus penggunaan DLC: Pelajari cara menggunakan DLC melalui contoh praktis.