Crie, monitore e interrompa jobs do Spark no console do Lindorm usando o Lindorm Distributed Processing System (LDPS).
Pré-requisitos
Antes de começar, verifique se você atende aos seguintes requisitos:
LDPS ativado para sua instância do Lindorm. Consulte Ativar o LDPS e modifique as configurações.
Job do Spark desenvolvido: job Java ou job Python.
Arquivo do job carregado no HDFS ou OSS. Consulte Carregar arquivos no console do Lindorm.
Acesse o gerenciamento de jobs
Todas as operações de job partem do mesmo local no console. Siga estas etapas antes de criar, visualizar ou interromper um job:
Faça login no console do Lindorm.
No canto superior esquerdo, selecione a região onde a instância está implantada.
Na página Instances, clique em ID da instância ou em Manage na coluna Actions.
No painel de navegação à esquerda, clique em Compute Engine.
Crie um job do Spark
Clique em aba Job Management e em Create Job.
Na caixa de diálogo Create Job, insira o nome do job e selecione o tipo.
-
Configure os parâmetros abaixo no modelo de job. Mantenha os valores padrão para os demais parâmetros. Se o arquivo do job estiver armazenado no OSS, adicione as seguintes entradas em
configs:Parâmetro
Descrição
tokenToken de autenticação para recursos de computação. Para obtê-lo, acesse Database Connections e clique em aba Compute Engine.
mainResourceCaminho no OSS ou HDFS para o pacote JAR ou arquivo Python do job.
mainClassClasse de ponto de entrada para um job Spark JAR.
argsArgumentos passados para
mainClass.configsParâmetros de sistema para o job do Spark. Caso o arquivo do job esteja no OSS, configure também os parâmetros específicos do OSS listados abaixo.
Parâmetro
Descrição
spark.hadoop.fs.oss.endpointCaminho onde o job do Spark está armazenado no OSS.
spark.hadoop.fs.oss.accessKeyIdAccessKey ID para acesso ao OSS. Consulte Obter um par de AccessKey.
spark.hadoop.fs.oss.accessKeySecretAccessKey secret para acesso ao OSS. Consulte Obter um par de AccessKey.
spark.hadoop.fs.oss.implDefina como
org.apache.hadoop.fs.aliyun.oss.AliyunOSSFileSystem. Clique em Save no canto superior direito.
Clique em Run no canto superior direito.
Visualize detalhes do job do Spark
Clique em aba Jobs para listar todos os jobs com as seguintes informações:
|
Campo |
Descrição |
|
JobId |
Identificador exclusivo do job do Spark. |
|
AppName |
Nome do job do Spark. |
|
WebUI Address |
URL da Web UI do Spark. Copie a URL, abra-a em um navegador e faça login com seu nome de usuário e senha do LindormTable para inspecionar estágios do job, status dos executores e logs. Consulte Visualizar informações sobre jobs do Spark. |
|
Status |
Status atual do job do Spark. |
|
Details |
Informações adicionais sobre o status do job. |
|
Actions |
Operações disponíveis para o job. |
O nome de usuário e a senha padrão do LindormTable estão disponíveis na aba Wide Table Engine da página Database Connections.
Interrompa um job do Spark
É possível interromper apenas jobs nos estados Starting ou Running. A interrupção não afeta a instância do Lindorm.
Na aba Jobs, localize o job desejado e clique em Stop Job na coluna Actions.