Este tópico descreve os limites de uso, as regiões compatíveis e os algoritmos de busca (TPE, GridSearch, Random, Evolution, GP e PBT) do AutoML, além dos cenários aplicáveis a cada algoritmo.
Regiões compatíveis
O AutoML está disponível nas seguintes regiões: China (Hangzhou), China (Shanghai), China (Beijing), China (Shenzhen) e China (Hong Kong).
Algoritmos de busca compatíveis
A busca de hiperparâmetros do AutoML oferece suporte aos seguintes algoritmos e seus respectivos cenários típicos.
-
TPE (Tree-structured Parzen Estimator)
O TPE não exige dependências adicionais e aceita todos os tipos de espaço de busca, sendo o algoritmo padrão de HPO. Utilize-o em problemas complexos, não lineares e de alta dimensionalidade com alto custo computacional. Esse método não identifica relações entre parâmetros.
Referência: Algorithms for Hyper-Parameter Optimization.
-
GridSearch
O GridSearch divide uniformemente o espaço de busca em uma grade e avalia todas as combinações para encontrar a melhor opção. Use este algoritmo quando o espaço de busca for pequeno.
-
Random
O algoritmo Random gera combinações de hiperparâmetros. Assim como na busca em grade, ele divide o espaço de busca em uma malha, mas cada tentativa seleciona aleatoriamente um conjunto de hiperparâmetros. Use-o para problemas não lineares e de alta dimensionalidade com elevado custo computacional.
-
Evolution
O Evolution inicializa a partir do espaço de busca. A cada geração, seleciona os parâmetros com melhor desempenho e aplica mutações para produzir o próximo conjunto de hiperparâmetros candidatos. Esse método requer múltiplas tentativas, mas possui lógica simples e fácil extensão.
O conceito origina-se de Large-Scale Evolution of Image Classifiers.
-
GP (Gaussian process)
O GP é um método de otimização bayesiana que utiliza processos gaussianos para calcular a perda. À medida que mais dados se acumulam, a distribuição posterior torna-se mais precisa e a otimização melhora progressivamente.
-
PBT (Population Based Training)
O PBT é um algoritmo de otimização assíncrona projetado para recursos computacionais fixos. Ele otimiza simultaneamente um número definido de modelos e seus hiperparâmetros para melhorar o desempenho, iterando sobre um único conjunto de hiperparâmetros até atingir o ponto ideal.
Este algoritmo baseia-se em Population Based Training of Neural Networks.