Solusi Alibaba AI Acceleration mencakup lapisan Cloud-Native AI Suite, lapisan AI Job Scheduling, lapisan AI Data Acceleration, lapisan AI Computing Acceleration Engine, lapisan Resource Scheduling, dan lapisan Computing Resource. Setiap lapisan menawarkan solusi akselerasi spesifik berdasarkan karakteristik aplikasi AI di berbagai skenario.
Cloud-Native AI Suite: Sederhanakan operasi dengan layanan dan komponen yang mendasarinya, pantau utilisasi resource GPU, serta kumpulkan dan analisis log job AI. Anda dapat menggunakan command line untuk mengirimkan job AI dan memeriksa jadwal pelatihan model.
AI Job Scheduling: Jadwalkan job AI untuk mempercepat pelatihan model, meningkatkan utilisasi GPU, dan menghemat biaya.
AIACC: Gunakan framework deep learning seperti TensorFlow, PyTorch, MXNet, dan Caffe untuk mengkategorikan gambar dan mencapai pengenalan gambar, prediksi Click-Through Rate, Natural Language Processing, pengenalan suara, pengenalan wajah, dll.
Data Acceleration: Adopsi arsitektur dengan resource penyimpanan dan komputasi yang terpisah, di mana data disimpan di perangkat berbeda dari on-premises dan pelatihan model dijalankan di Alibaba Cloud. Data disimpan dalam file kecil dan di-warm up sebelum pelatihan model untuk meningkatkan efisiensi transmisi dan pelatihan.
Resource Scheduling: Tingkatkan utilisasi GPU dan hemat biaya dengan membagikan resource GPU ke beberapa job AI serta menjalankan satu job AI pada beberapa GPU untuk pelatihan model terdistribusi.
Computing Resources-GPU: Kelola dan jadwalkan memori GPU serta daya komputasi sebagai container dengan cGPU untuk mempercepat pelatihan dan inference AI.