Percepatan AI - Platform For AI

Platform for AI (PAI) menyediakan Akselerator AI untuk mempercepat pelatihan dan inferensi. Akselerator AI membantu meningkatkan kecepatan dan stabilitas pelatihan serta inferensi AI melalui berbagai metode seperti percepatan dataset dan komputasi. Anda dapat menggunakan Akselerator AI untuk meningkatkan efisiensi komputasi AI. Topik ini menjelaskan fitur-fitur dari Akselerator AI.

Fitur

Tabel berikut menjabarkan metode teknis dan fitur yang didukung oleh Akselerator AI.

Metode teknis	Fitur
EPL (kerangka kerja berskala besar untuk pelatihan terdistribusi)	Mendukung paralelisme data, pembagian operator, dan paralelisme pipeline. Mendukung paralelisme otomatis untuk performa pelatihan terdistribusi yang optimal.
Rapidformer (Percepatan pelatihan Transformer)	Mengoptimalkan pelatihan model Transformer PyTorch dan menggabungkan berbagai teknologi optimasi untuk berintegrasi secara mulus dengan pustaka model Transformer.
PAI-Blade (Optimasi inferensi umum)	Mendukung TensorFlow, PyTorch, dan perangkat akselerasi utama seperti GPU, CPU, dan perangkat akhir. Mendukung berbagai teknologi optimasi, seperti optimasi graf, pustaka dioptimalkan vendor, optimasi kompiler AI, pustaka operator berperforma tinggi, presisi campuran, dan kompresi otomatis. Menyediakan SDK standar yang mudah digunakan untuk Python agar Anda dapat menerapkan optimasi.

Menggunakan akselerator AI

Anda dapat merujuk pada dokumen berikut untuk mulai menggunakan Akselerator AI.

EPL (kerangka kerja berskala besar untuk pelatihan terdistribusi)
EPL adalah kerangka kerja efisien dan mudah digunakan untuk pelatihan model terdistribusi. Anda dapat menggunakan EPL untuk melaksanakan pelatihan model terdistribusi berperforma tinggi dengan biaya rendah. Untuk informasi lebih lanjut tentang cara menggunakan EPL untuk mempercepat pelatihan, lihat Gunakan EPL untuk mempercepat pelatihan model AI.
Rapidformer (Percepatan pelatihan Transformer)
Rapidformer adalah alat optimasi pelatihan untuk model Transformer PyTorch. Anda dapat menggabungkan berbagai teknologi optimasi untuk meningkatkan kecepatan dan efisiensi pelatihan model. Untuk informasi lebih lanjut, lihat Ikhtisar Rapidformer.
PAI-Blade (Optimasi inferensi umum)
PAI-Blade adalah alat optimasi inferensi serbaguna yang terintegrasi dengan berbagai teknologi optimasi. Anda dapat menggunakan PAI-Blade untuk mengoptimalkan performa inferensi model yang telah dilatih sehingga model dapat berjalan pada performa inferensi optimal. Untuk informasi lebih lanjut, lihat Ikhtisar Blade.