visualizar detalhes do job usando a ferramenta de linha de comando DLC - Platform For AI: Central de Documentação do Alibaba Cloud

Use o cliente Deep Learning Containers (DLC) para visualizar logs, listas e detalhes de jobs do DLC. Este tópico descreve os comandos para consultar logs ou jobs, incluindo sintaxe, parâmetros e exemplos.

O comando logs

Descrição do recurso

Consulta os logs de um job de treinamento.

Sintaxe

./dlc logs <yourJobId> <yourPodId> [--max_events_num <yourMaxNum>] [--start_time <yourStartTime>] [--end_time <yourEndTime>]

Parâmetros

Parâmetro	Obrigatório	Descrição	Tipo
<yourJobId>	Sim	ID do job de treinamento a ser consultado.	STRING
<yourPodId>	Sim	ID do pod cujos logs serão visualizados. Em jobs distribuídos, especifique vários pods.	STRING
max_events_num <yourMaxNum>	Não	Número máximo de entradas de log a retornar. Valor padrão: 2000.	INT
start_time <yourStartTime>	Não	Hora inicial da consulta. Valor padrão: 7 dias antes da hora atual. Exemplo: start_time 2020-11-08T16:00:00Z.	STRING
end_time <yourEndTime>	Não	Hora final da consulta. Valor padrão: hora atual. Exemplo: end_time 2020-11-08T17:00:00Z.	STRING

Exemplos

Obtenha 10 linhas de logs do Worker Node 0 de um job de treinamento distribuído.

./dlc logs dlcdys3r9jlu**** dlcdys3r********-worker-0 --max_events_num 10

A saída retornada é semelhante ao exemplo abaixo:

WARN: ./requirements.txt not found, skip installing requirements.
================================================
|  PAI Tensorflow powered by Aliyun PAI Team.  |
================================================
Network is under initialization...
Network successfully initialized.
[2021-04-16 12:27:56.368026] [INFO] [7#7] [tensorflow/core/platform/cpu_feature_guard.cc:141] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2 AVX512F FMA
[2021-04-16 12:27:56.375586] [INFO] [7#7] [tensorflow/core/distributed_runtime/master.cc:80] ====================CPU Architecture=====================
[2021-04-16 12:27:56.375600] [INFO] [7#7] [tensorflow/core/distributed_runtime/master.cc:84] Disable AVX512.
[2021-04-16 12:27:56.375605] [INFO] [7#7] [tensorflow/core/distributed_runtime/master.cc:87] CPU Vendor ID: GenuineIntel

O comando get job

Descrição do recurso

Obtém informações sobre um job de treinamento. Se nenhum ID for especificado, todos os jobs serão consultados. Caso contrário, apenas o job correspondente ao ID informado será retornado.

Sintaxe

./dlc get job [JOB_ID] [--workspace_id <yourWorkspaceId>] [--display_name <yourJobName>] [--job_type <yourJobType>] [--status <yourJobStatus>] [--start_time <yourStartTime>] [--end_time <yourEndTime>] [--page_num <yourPageNum>] [--page_size <yourPageSize>] [--max_events_num <yourMaxNum>] [--events] [--events_only]

Descrição dos parâmetros

Parâmetro	Obrigatório	Descrição	Tipo
JOB_ID	Não	ID do job de treinamento a ser consultado.	STRING
workspace_id <yourWorkspaceId>	Não	ID do workspace.	STRING
display_name <yourJobName>	Não	Nome do job. Aceita busca aproximada. Não diferencia maiúsculas de minúsculas. Não aceita curingas.	STRING
job_type <yourJobType>	Não	Tipo do job. Permite consultar jobs de todos os tipos. Vazio por padrão, o que indica todos os tipos.	STRING
status <yourJobStatus>	Não	Status do job. Valores válidos: vazio por padrão, o que indica todos os status.	STRING
start_time <yourStartTime>	Não	Hora inicial da consulta. Exemplo: start_time 2022-08-04T02:09:32Z.	STRING
end_time <yourEndTime>	Não	Hora final da consulta. Exemplo: end_time 2022-08-04T02:09:32Z.	STRING
page_num <yourPageNum>	Não	Número da página a retornar na consulta atual. A numeração começa em 1. Valor padrão: 1.	INT
page_size <yourPageSize>	Não	Quantidade de entradas a retornar por página. Valor padrão: 10.	INT
max_events_num <yourMaxNum>	Não	Número máximo de linhas de eventos do sistema a retornar. Valor padrão: 2000.	INT
events	Não	Define se os eventos do sistema de um job devem ser consultados. Aplica-se apenas à consulta de um único job. Valor padrão: false.	BOOL
events_only	Não	Define se apenas os eventos do sistema de um job devem ser consultados. Aplica-se apenas à consulta de um único job. Valor padrão: false.	BOOL

Exemplos

Consulte jobs de treinamento por nome usando busca aproximada.

./dlc get job --display_name epl

A saída retornada é semelhante ao exemplo abaixo:

+--------------------+------------------+-------------+------------------+------------+----------------+---------+----------+-----------+------------------+----------------------+----------------------+----------------------+----------------------+-------------+------------+----------------------+-------------------+
|        Name        |      JobId       | WorkspaceId |  WorkspaceName   | ResourceId |  ResourceName  | JobType | Priority | JobStatus |      UserId      |      CreateTime      |    SubmittedTime     |     RunningTime      |    SuccessedTime     | StoppedTime | FailedTime |      FinishTime      | Duration(seconds) |
+--------------------+------------------+-------------+------------------+------------+----------------+---------+----------+-----------+------------------+----------------------+----------------------+----------------------+----------------------+-------------+------------+----------------------+-------------------+
| test_epl_test-**** | dlc02xipvt5z**** | 23****      | doc_test_**** |            | public-cluster | TFJob   | 1        | Succeeded | 144963168668**** | 2022-08-01T06:41:05Z | 2022-08-01T06:45:08Z | 2022-08-01T06:48:57Z | 2022-08-01T06:53:21Z |             |            | 2022-08-01T06:53:21Z | 736               |
| test_epl_****      | dlc1iyv3szl2**** | 23****      | doc_test_**** |            | public-cluster | TFJob   | 1        | Succeeded | 144963168668**** | 2022-08-01T03:23:51Z | 2022-08-01T03:27:22Z | 2022-08-01T03:27:50Z | 2022-08-01T03:33:48Z |             |            | 2022-08-01T03:33:48Z | 597               |
+--------------------+------------------+-------------+------------------+------------+----------------+---------+----------+-----------+------------------+----------------------+----------------------+----------------------+----------------------+-------------+------------+----------------------+-------------------+

Consulte um job de treinamento específico.

./dlc get job dlc02xipvt5z****

A saída retornada é semelhante ao exemplo abaixo:

{
   "ClusterId": "",
   "CodeSource": {
      "Branch": "main",
      "CodeSourceId": "code-29****c****c4****ae0c9ec75a5****",
      "MountPath": ""
   },
   "DataSources": [
      {
         "DataSourceId": "d-ya7gc2p2iqq240****",
         "MountPath": ""
      }
   ],
   "DisplayName": "test_epl_test-****",
   "Duration": 736,
   "ElasticSpec": {
      "AIMasterType": "",
      "EnableElasticTraining": false,
      "MaxParallelism": 0,
      "MinParallelism": 0
   },
   "EnabledDebugger": false,
   "GmtCreateTime": "2022-08-01T06:41:05Z",
   "GmtFinishTime": "2022-08-01T06:53:21Z",
   "GmtRunningTime": "2022-08-01T06:48:57Z",
   "GmtSubmittedTime": "2022-08-01T06:45:08Z",
   "GmtSuccessedTime": "2022-08-01T06:53:21Z",
   "JobId": "dlc02xipvt5z****",
   "JobSpecs": [
      {
         "AssignNodeSpec": {
            "EnableAssignNode": false,
            "NodeNames": ""
         },
         "EcsSpec": "ecs.gn6v-c8g1.2xlarge",
         "Image": "registry.cn-shanghai.aliyuncs.com/pai-dlc/tensorflow-training:1.15-gpu-py36-cu100-ubuntu1****",
         "PodCount": 2,
         "ResourceConfig": {
            "CPU": "",
            "GPU": "",
            "GPUType": "",
            "Memory": "",
            "SharedMemory": ""
         },
         "Type": "Worker",
         "UseSpotInstance": false
      }
   ],
   "JobType": "TFJob",
   "Pods": [
      {
         "GmtCreateTime": "2022-08-01T06:45:08Z",
         "GmtFinishTime": "2022-08-01T06:53:20Z",
         "GmtStartTime": "2022-08-01T06:52:06Z",
         "Ip": "10.224.xx.xx",
         "PodId": "dlc02xipvt5z****-worker-0",
         "PodUid": "",
         "Status": "Succeeded",
         "Type": "worker"
      },
      {
         "GmtCreateTime": "2022-08-01T06:45:08Z",
         "GmtFinishTime": "2022-08-01T06:53:20Z",
         "GmtStartTime": "2022-08-01T06:48:57Z",
         "Ip": "10.224.xx.xx",
         "PodId": "dlc02xipvt5z****-worker-1",
         "PodUid": "",
         "Status": "Succeeded",
         "Type": "worker"
      }
   ],
   "ReasonCode": "JobSucceeded",
   "ReasonMessage": "TFJob dlc02xipvt5z**** successfully completed.",
   "RequestId": "76FC3500-xxxx-533F-B24A-AC9B2A72****",
   "ResourceId": "",
   "Priority": 1,
   "ResourceLevel": "",
   "Settings": {
      "BusinessUserId": "",
      "Caller": "",
      "EnableErrorMonitoringInAIMaster": false,
      "EnableTideResource": false,
      "ErrorMonitoringArgs": "",
      "PipelineId": ""
   },
   "Status": "Succeeded",
   "ThirdpartyLibDir": "",
   "UserCommand": "cd /root/xxxx/xxxx/\npip install .\ncd examples/resnet\nbash scripts/xxxx_dp.sh",
   "UserId": "144963168668****",
   "WorkspaceId": "23****",
   "WorkspaceName": "doc_test_****"
}

Referências

Visualize os detalhes do job no console. Para mais informações, consulte Visualizar detalhes do treinamento.