Obtém uma lista de execuções de jobs Spark.
Experimente agora
Testar
Autorização RAM
|
Ação |
Nível de acesso |
Tipo de recurso |
Chave de condição |
Ação dependente |
|
emr-serverless-spark:ListJobRuns |
list |
*Todos os recursos.
|
Nenhuma | Nenhuma |
Sintaxe da solicitação
GET /api/v1/workspaces/{workspaceId}/jobRuns HTTP/1.1
Parâmetros de caminho
|
Parâmetro |
Tipo |
Obrigatório |
Descrição |
Exemplo |
| workspaceId |
string |
Sim |
O ID do workspace. |
w-d2d82aa09155**** |
Parâmetros da solicitação
|
Parâmetro |
Tipo |
Obrigatório |
Descrição |
Exemplo |
| nextToken |
string |
Não |
O token de paginação que marca a posição inicial para a consulta. |
DD6B1B2A-5837-5237-ABE4-FF0C89568980 |
| maxResults |
integer |
Não |
O número máximo de registros a serem retornados em uma única solicitação. O valor máximo é 100. |
20 |
| name |
string |
Não |
O nome do job. |
emr-spark-demo-job |
| creator |
string |
Não |
O UID do criador. |
150976534701**** |
| jobRunId |
string |
Não |
O ID da execução do job. |
j-xxx |
| tags |
array<object> |
Não |
A lista de tags. |
|
|
object |
Não |
O objeto de tag. |
||
| key |
string |
Não |
A chave da tag. |
tag_key |
| value |
string |
Não |
O valor da tag. |
value |
| states |
array |
Não |
Os estados das execuções do job. |
["Running","Submitted"] |
|
string |
Não |
O estado da execução do job. Valores válidos:
|
Running |
|
| startTime |
object |
Não |
O intervalo de tempo para a hora de início da execução do job. |
|
| startTime |
integer |
Não |
A hora de início do intervalo de tempo. O valor é um timestamp UNIX em milissegundos. |
1709740800000 |
| endTime |
integer |
Não |
A hora de término do intervalo de tempo. O valor é um timestamp UNIX em milissegundos. |
1710432000000 |
| endTime |
object |
Não |
O intervalo de tempo para a hora de término da execução do job. |
|
| startTime |
integer |
Não |
A hora de início do intervalo de tempo. O valor é um timestamp UNIX em milissegundos. |
1709740800000 |
| endTime |
integer |
Não |
A hora de término do intervalo de tempo. O valor é um timestamp UNIX em milissegundos. |
1710432000000 |
| resourceQueueId |
string |
Não |
O nome da fila de recursos na qual o job Spark é executado. |
dev_queue |
| jobRunDeploymentId |
string |
Não |
O ID do job da implantação do job de streaming. |
jd-b6d003f1930f**** |
| regionId |
string |
Não |
O ID da região. |
cn-hangzhou |
| minDuration |
integer |
Não |
A duração mínima da execução do job, em milissegundos. |
60000 |
| isWorkflow |
string |
Não |
Especifica se o job é um job de workflow. |
false |
| runtimeConfigs |
string |
Não |
As configurações de tempo de execução. |
[{\"key\":\"mainClass\",\"value\":\"yourClass\"}] |
| applicationConfigs |
string |
Não |
As configurações do Spark. |
[{\"key\":\"spark.app.name\",\"value\":\"test\"}] |
| groupByState |
boolean |
Não |
Especifica se os resultados estatísticos devem ser agregados e retornados por estado do job. |
Elementos de resposta
|
Elemento |
Tipo |
Descrição |
Exemplo |
|
object |
Os dados da resposta. |
||
| jobRuns |
array<object> |
A lista de execuções de jobs do Spark. |
|
|
array<object> |
O objeto de nó do Spark. |
||
| workspaceId |
string |
O ID do workspace. |
w-d2d82aa09155**** |
| jobRunId |
string |
O ID da execução do job. |
jr-231231 |
| name |
string |
O nome do job. |
jobName |
| state |
string |
Os estados das execuções do job. |
Running |
| stateChangeReason |
object |
O motivo da alteração de estado. |
|
| code |
string |
O código de erro. |
0 |
| message |
string |
A mensagem de erro. |
connection refused |
| submitTime |
integer |
A hora em que o job foi enviado. O valor é um timestamp UNIX em milissegundos. |
1684119314000 |
| endTime |
integer |
A hora em que o job terminou. O valor é um timestamp UNIX em milissegundos. |
1684119314000 |
| codeType |
string |
O tipo de código do job. Valores válidos:
|
SQL |
| webUI |
string |
A Web UI do job. |
http://spark-ui |
| executionTimeoutSeconds |
integer |
O tempo limite de execução. |
3600 |
| creator |
string |
O UID do criador. |
150978934701**** |
| tags |
array |
As tags. |
|
| Tag |
A tag do job. |
||
| log | RunLog |
O caminho para o log de execução. |
|
| releaseVersion |
string |
A versão do mecanismo Spark usada para executar o nó. |
esr-3.0.0 (Spark 3.4.3, Scala 2.12, Native Runtime) |
| jobDriver | JobDriver |
As informações sobre o driver do Spark. Este parâmetro não é retornado pela operação de lista. |
|
| configurationOverrides |
object |
As configurações avançadas do Spark. Este parâmetro não é retornado pela operação de lista. |
|
| configurations |
array |
A lista de configurações do Spark. |
|
| Configuration |
O objeto de configuração do Spark. |
||
| displayReleaseVersion |
string |
A versão do mecanismo Spark usada para executar o nó. |
esr-3.0.0 (Spark 3.4.3, Scala 2.12) |
| fusion |
boolean |
Especifica se a aceleração do mecanismo Fusion está ativada. |
true |
| vcoreSeconds |
integer |
O número total de vcores alocados para o job multiplicado pelo número de segundos em que o job foi executado. |
8236 |
| mbSeconds |
integer |
A quantidade total de memória alocada para o job multiplicada pelo número de segundos em que o job foi executado. |
33030784 |
| cuHours |
number |
O número de unidades de computação (CUs) consumidas durante a execução do job. Este valor é uma estimativa e o valor final está sujeito à fatura. |
2.059 |
| resourceQueueId |
string |
O nome da fila de recursos na qual o job do Spark é executado. |
dev_queue |
| priority |
string |
A prioridade do job do Spark. |
5 |
| requestId |
string |
O ID da solicitação. |
DD6B1B2A-5837-5237-ABE4-FF0C8944**** |
| nextToken |
string |
O token que indica a posição do próximo registro de dados a ser lido. |
1 |
| maxResults |
integer |
O número máximo de registros retornados para a solicitação atual. |
20 |
| totalCount |
integer |
O número total de registros que atendem às condições da solicitação. |
200 |
| aggregations |
object |
Os resultados estatísticos agregados por status do job. |
|
|
string |
O número de jobs no status correspondente, representado como uma string. |
1 |
Exemplos
Resposta de sucesso
JSON formato
{
"jobRuns": [
{
"workspaceId": "w-d2d82aa09155****",
"jobRunId": "jr-231231",
"name": "jobName",
"state": "Running",
"stateChangeReason": {
"code": "0",
"message": "connection refused\n"
},
"submitTime": 1684119314000,
"endTime": 1684119314000,
"codeType": "SQL",
"webUI": "http://spark-ui",
"executionTimeoutSeconds": 3600,
"creator": "150978934701****",
"tags": [
{
"value": "wf-123test",
"key": "workflowId"
}
],
"log": {
"driverStdOut": "oss://bucket/path/to/stdout",
"driverSyslog": "oss://bucket/path/to/syslog",
"driverStdError": "oss://bucket/path/to/stderr",
"driverStartup": "oss://bucket/path/to/startup"
},
"releaseVersion": "esr-3.0.0 (Spark 3.4.3, Scala 2.12, Native Runtime)",
"jobDriver": {
"sparkSubmit": {
"entryPointArguments": [
"arg1"
],
"entryPoint": "oss://bucket/path/to/entrypoint.jar",
"sparkSubmitParameters": "--conf spark.app.name=test"
}
},
"configurationOverrides": {
"configurations": [
{
"configFileName": "common.conf",
"configItemKey": "hive.metastore.type",
"configItemValue": "USER_RDS"
}
]
},
"displayReleaseVersion": "esr-3.0.0 (Spark 3.4.3, Scala 2.12)",
"fusion": true,
"vcoreSeconds": 8236,
"mbSeconds": 33030784,
"cuHours": 2.059,
"resourceQueueId": "dev_queue",
"priority": "5"
}
],
"requestId": "DD6B1B2A-5837-5237-ABE4-FF0C8944****",
"nextToken": "1",
"maxResults": 20,
"totalCount": 200,
"aggregations": {
"key": "1"
}
}
Códigos de erro
Consulte Códigos de Erro para uma lista completa.
Notas de versão
Consulte Notas de Versão para uma lista completa.