Topik ini menjelaskan cara menggunakan sumber daya GU di MaxFrame dan menyediakan praktik terbaik pengembangan. Anda dapat menggunakan MaxFrame dengan Kuota GU untuk menjalankan tugas berbasis GPU di MaxCompute, seperti pemrosesan data multi-modal dan inferensi model.
Pengenalan fungsi
MaxFrame adalah framework komputasi terdistribusi untuk MaxCompute yang menyediakan antarmuka pemrograman Python. Framework ini mengatasi dua masalah umum dalam pemrosesan data Python: hambatan kinerja dan perpindahan data yang tidak efisien. Dengan MaxFrame, Anda dapat langsung memproses dan menganalisis data besar berukuran terabyte hingga petabyte di MaxCompute untuk berbagai tugas, seperti eksplorasi data visual, komputasi ilmiah, pembelajaran mesin, dan pengembangan AI—sehingga memenuhi kebutuhan pemrosesan data besar dan pengembangan AI yang efisien dalam ekosistem Python.
GU (GPU Unit) adalah unit komputasi di MaxCompute untuk menjalankan tugas GPU. GU cocok untuk skenario seperti inferensi pembelajaran mendalam, pemrosesan citra dan audio, serta inferensi offline untuk Large Language Models (LLMs). Untuk informasi selengkapnya, lihat Sumber daya komputasi AI MaxCompute.
Item konfigurasi
Tetapkan prioritas mesin eksekusi default untuk MaxFrame
Distributed Python Engine (DPE) adalah mesin komputasi Python terdistribusi yang mendukung GPU. Untuk memastikan tugas GPU dijadwalkan ke DPE, letakkan "DPE" di posisi pertama dalam engine_order.
from maxframe.config import options
options.dag.settings = {
"engine_order": ["DPE", "MCSQL"]
}Gunakan sumber daya GU
Metode 1: Tentukan Kuota GU pada tingkat sesi global
Secara default, Kuota GU tingkat sesi global hanya berlaku untuk Fungsi AI MaxFrame. Untuk fungsi user-defined (UDF) biasa, Anda harus menentukan Kuota GU secara manual.
options.session.gu_quota_name = "xxxxxx" # GU QuotaMetode 2: Tentukan parameter GU pada tingkat UDF
@with_running_options(engine="dpe", gu=8, gu_quota="xxxxx") def vad_call(batch, config_path: str): ...engine="dpe": Menentukan bahwa DPE digunakan.gu=8: Mengalokasikan 8 GU (8 kartu) untuk setiap instans.gu_quota="os_xxxx": Menentukan kelompok Kuota GU yang akan digunakan.