O gerenciamento de experimentos permite usar o TensorBoard para visualizar e comparar métricas como train_loss e total_flos em várias tarefas de treinamento. Esse recurso ajuda a selecionar a combinação ideal de hiperparâmetros durante o ajuste fino.
Pré-requisitos
Para visualizar métricas com o TensorBoard, crie primeiro um bucket do OSS. Para obter instruções, consulte Criar um bucket no console.
Faturamento
O Gerenciamento de Experimentos é gratuito. No entanto, treinar um modelo no Model Gallery e associar a tarefa a um experimento gera taxas de treinamento do DLC e de armazenamento do OSS. Para mais informações, consulte Faturamento do DLC e Visão geral do faturamento do OSS.
Até cinco instâncias do TensorBoard são gratuitas. Instâncias adicionais são cobradas.
Associar uma tarefa de treinamento a um experimento
Ao criar uma tarefa de ajuste fino de modelo no Model Gallery, associe a tarefa a um experimento novo ou existente. Siga estas etapas:
Na página de detalhes do modelo, clique em Train.
-
Na página de detalhes do ajuste fino, na seção Experiment Configuration, configure a associação do experimento.
-
Para associar a tarefa a um novo experimento, selecione Create Experiment e especifique o Experiment Name e o Experiment Output Path.
NotaO campo Experiment Output Path define o caminho padrão para todos os dados de saída das tarefas associadas, incluindo modelos e logs do TensorBoard.
Para personalizar o caminho de saída da tarefa, configure-o na seção Output Data Configuration. No entanto, modificar o caminho padrão do TensorBoard impede a comparação de métricas entre tarefas na instância do TensorBoard do experimento. Recomendamos manter o caminho padrão.
-
Como alternativa, associe a tarefa a Existing Experiments.
Selecione um experimento específico na lista suspensa, como
exp-bert.
-
Configure os parâmetros restantes da tarefa de ajuste fino. Para mais informações, consulte Implantação e treinamento de modelos.
-
Clique em Train.
Você será redirecionado para a página Task details, que exibe o nome do experimento associado e os metadados da tarefa, como hiperparâmetros.
Visualizar experimentos e abrir o TensorBoard
Use o TensorBoard para comparar métricas como train_loss e total_flos de tarefas de treinamento associadas ao mesmo experimento. Siga o procedimento abaixo:
Na página inicial do Model Gallery, clique em Job Management.
-
Na página Job Management, em All Experiments, localize o experimento desejado e clique em Tensorboard na coluna Operation.
Uma instância do TensorBoard é iniciada automaticamente.
A caixa de diálogo Visualize Tensorboard é exibida com o Name, Output Artifact URI, Status e URL da instância. Durante a criação da instância, o Status permanece como Creating e a URL aparece como um hífen (-). A URL fica disponível após a criação da instância. Use os botões Delete, Stop ou Close na parte inferior da caixa de diálogo para gerenciar a instância.
-
Após o status do TensorBoard mudar para In operation, clique em Go to. A interface do TensorBoard abre em uma nova aba do navegador.
As métricas registradas variam conforme o modelo.
Comparar métricas de tarefas no TensorBoard
-
Altere o eixo horizontal do gráfico selecionando uma opção em Horizontal Axis.
STEP: Número da etapa de treinamento.
RELATIVE: Tempo decorrido desde o início do treinamento, em horas. Exemplo: 0,5 horas.
WALL: Horário absoluto. Exemplo: 10:00 AM em 2 de abril de 2024.
Métricas comuns:
loss: Diferença entre as previsões do modelo e os valores reais (ground truth).
accuracy/precision/recall: Métricas de desempenho do modelo.
Marque ou desmarque a caixa de seleção de uma tarefa para incluí-la ou excluí-la da comparação.
Se os valores das métricas forem semelhantes entre as tarefas, clique no botão central inferior do gráfico para ampliar a área com as diferenças mais significativas.
Clique no botão mais à esquerda para visualizar o gráfico em tela cheia.