Topik ini menjelaskan batasan dan catatan penggunaan AutoML, termasuk wilayah yang didukung, algoritma pencarian yang tersedia, serta skenario di mana algoritma tersebut cocok digunakan. Algoritma yang didukung meliputi Tree-structured Parzen Estimator (TPE), GridSearch, Random, Evolution, Gaussian Process (GP) untuk Bayesian Optimization (BO), dan Population Based Training (PBT).
Wilayah yang didukung
Anda dapat menggunakan AutoML di wilayah berikut:
Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Shenzhen), dan Tiongkok (Hong Kong).
Algoritma pencarian yang didukung
Berikut ini adalah deskripsi algoritma pencarian yang didukung oleh AutoML beserta skenario di mana algoritma tersebut cocok digunakan.
TPE: Algoritma ini tidak memerlukan dependensi tambahan. TPE mendukung semua jenis ruang pencarian dan digunakan sebagai algoritma default dalam HPO. TPE cocok untuk menyelesaikan masalah kompleks, nonlinier, dimensi tinggi yang membutuhkan banyak perhitungan. Namun, TPE tidak dapat menemukan hubungan antara parameter yang berbeda. Untuk informasi lebih lanjut, lihat Algorithms for Hyper-Parameter Optimization.
GridSearch: Algoritma ini membagi ruang pencarian secara merata menjadi grid dan menjelajahi semua kombinasi yang mungkin untuk menentukan kombinasi optimal. Algoritma ini bekerja dengan baik untuk sejumlah kecil kombinasi yang mungkin.
Random: Algoritma ini secara acak menghasilkan kombinasi hiperparameter. Mirip dengan pencarian grid, algoritma ini membagi ruang pencarian menjadi grid dan secara acak memilih kombinasi hiperparameter dalam setiap percobaan. Algoritma ini cocok untuk masalah nonlinier dan dimensi tinggi.
Evolution: Algoritma ini menginisialisasi ruang pencarian, memilih hiperparameter dengan kinerja lebih baik untuk setiap generasi guna menghasilkan kombinasi turunan. Evolution memerlukan beberapa percobaan, tetapi logika algoritma sederhana dan mudah diterapkan pada fitur baru.
Algoritma ini dikembangkan berdasarkan Large-Scale Evolution of Image Classifiers.
GP: Metode BO ini menggunakan Proses Gauss untuk menghitung loss. Seiring bertambahnya jumlah data yang diperoleh, distribusi posterior menjadi semakin akurat dan kinerja optimasi meningkat.
PBT: Algoritma optimasi asinkron untuk sumber daya komputasi tetap yang meningkatkan kinerja model dengan mengoptimalkan sejumlah model dan hiperparameter tetap. Algoritma PBT terus-menerus mengulangi satu set hiperparameter untuk mendapatkan kombinasi optimal.
Algoritma ini dikembangkan berdasarkan Population Based Training of Neural Networks.