Ajustar hiperparâmetros manualmente é demorado e propenso a erros em grande escala. O PAI AutoML automatiza a otimização de hiperparâmetros (HPO), permitindo encontrar a melhor configuração de modelo com mais rapidez e menos desperdício de computação.
Conceitos
Informações gerais
No aprendizado de máquina, hiperparâmetros são parâmetros externos definidos antes do início do treinamento. Eles permanecem fixos durante toda a execução — diferentemente dos parâmetros do modelo, atualizados continuamente ao longo do aprendizado.
HPO é o processo de encontrar os valores ideais de hiperparâmetros. Para modelos com múltiplos hiperparâmetros, esses parâmetros formam um vetor multidimensional. A HPO encontra o valor específico desse vetor que gera o melhor desempenho do modelo — como o valor mínimo da função de perda — em todos os intervalos possíveis de valores.
Por exemplo, considere um modelo com dois hiperparâmetros A e B — onde A assume os valores a, b ou c e B assume os valores d ou e — totalizando seis combinações possíveis. A HPO identifica qual combinação produz o melhor desempenho do modelo treinando cada combinação com o mesmo conjunto de dados e comparando os resultados.
HPO no AutoML
Modelos reais geralmente possuem muitos hiperparâmetros de tipos variados — inteiros e ponto flutuante. Avaliar exaustivamente todas as combinações exige uma quantidade significativa de computação. O AutoML oferece um mecanismo automatizado de HPO que pesquisa o espaço de hiperparâmetros de forma eficiente.
O AutoML proporciona:
Menos esforço manual: a busca automatizada substitui o ajuste manual, economizando tempo e esforço de engenharia de forma significativa.
Melhor qualidade do modelo: diversos algoritmos do PAI trabalham em conjunto para localizar combinações ideais de hiperparâmetros rapidamente, produzindo modelos mais precisos.
Menor custo de computação: o AutoML avalia o desempenho do modelo durante o treinamento e encerra trials pouco promissores antecipadamente, garantindo os melhores hiperparâmetros sem avaliar todas as combinações.
Opções flexíveis de computação: execute jobs de treinamento em recursos DLC ou MaxCompute, de acordo com a sua infraestrutura.
Casos de uso
O AutoML se aplica a qualquer tarefa de aprendizado de máquina que exija ajuste de hiperparâmetros. Entre os cenários mais comuns estão:
Classificação binária — por exemplo, determinar se um usuário é pagante.
Regressão — por exemplo, estimar o valor de pagamento que um usuário realiza em sete dias.
Clusterização — por exemplo, identificar o número ideal de localizações de lojas para uma marca de cosméticos em uma cidade.
Recomendação — por exemplo, ajustar modelos de ranqueamento e recuperação para melhorar métricas de Area Under Curve (AUC).
Deep learning — por exemplo, aumentar a acurácia em tarefas de multiclassificação de imagens ou vídeos.
Tópicos relacionados
-
(Recomendado) Descreve como o AutoML funciona e a relação entre experimentos, trials e tarefas de treinamento. Leia este conteúdo antes de configure seu primeiro experimento.
-
Explica como crie um experimento no PAI console e configure os principais parâmetros. Defina as opções de acordo com as necessidades do seu projeto na Alibaba Cloud.
-
Apresenta casos de uso para ajustar hiperparâmetros com o AutoML.