SchedulerX permite programar periódicamente trabajos de DataWorks y orquestarlos junto con otros trabajos en SchedulerX para procesar datos.
Requisitos previos
Inicie sesión en la consola de DataWorks y active DataWorks Enterprise Edition.
Procedimiento de acceso del cliente
Uso de dependencias del SDK
Utilice las dependencias del cliente del SDK de SchedulerX.
Actualice el cliente de SchedulerX a la versión V1.3.4 o posterior.
-
Al conectar el cliente a DataWorks Enterprise Edition, introduzca el AccessKey ID y el AccessKey secret de su cuenta de Alibaba Cloud en la configuración de inicio. Asegúrese de que su cuenta de Alibaba Cloud tenga permisos de operación sobre DataWorks Enterprise Edition.
# Account information that is used to access DataWorks. spring.schedulerx2.aliyunAccessKey=AccessKey ID of the Alibaba Cloud account spring.schedulerx2.aliyunSecretKey=AccessKey secret of the Alibaba Cloud account
Uso de un agente
Si utiliza un agente para el acceso, despliegue el agente y úselo para acceder a DataWorks siguiendo las instrucciones en Use the SchedulerX agent to connect an application to SchedulerX (Script or HTTP jobs). Se requieren los siguientes elementos:
-
Paquete de instalación. Haga clic en el enlace para descargarlo.
Agregue el AccessKey ID y el AccessKey secret de la cuenta de Alibaba Cloud que tiene permisos para operar DataWorks a los parámetros de inicio en el archivo agent.properties.
# Account information that is used to access DataWorks. aliyunAccessKey={ALIYUN_ACCESS_KEY} aliyunSecretKey={ALIYUN_SECRET_KEY} -
Imágenes de Docker
Seleccione una imagen de Docker según su tipo de red y arquitectura de CPU.
Tipo de red
x86_64
arm64
Internet
registry.cn-hangzhou.aliyuncs.com/schedulerx/agent:1.10.13-dataworks-amd64
registry.cn-hangzhou.aliyuncs.com/schedulerx/agent:1.10.13-dataworks-arm64
Virtual private cloud (VPC) en China (Hangzhou)
registry-vpc.cn-hangzhou.aliyuncs.com/schedulerx/agent:1.10.13-dataworks-amd64
registry-vpc.cn-hangzhou.aliyuncs.com/schedulerx/agent:1.10.13-dataworks-arm64
Si utiliza una imagen de Docker para iniciar, configure las variables de entorno de inicio
ALIYUN_ACCESS_KEYyALIYUN_SECRET_KEY.
Creación de un trabajo de DataWorks
-
Realice las siguientes operaciones en la consola de DataWorks:
Cree un flujo de trabajo con activación manual. Para obtener más información, consulte Create a manually triggered workflow.
Cree un nodo sin configurar dependencias. Para obtener más información, consulte Create nodes and configure node dependencies.
Confirme un flujo de trabajo. Para obtener más información, consulte Commit a workflow.
-
Realice las siguientes operaciones en la consola de SchedulerX:
-
Cree un flujo de trabajo y agregue nodos de DataWorks al mismo. Para obtener más información, consulte Create a workflow.
En la página Create Job, configure los siguientes parámetros: establezca job type en dataworks, execution mode en standalone y priority en Medium. En job parameters, introduzca
schedulerX 2.0. Configure otros parámetros obligatorios, como Description, application ID, Workflow Name, Job ID, Project Name y deployment region. Luego, haga clic en Next. Una vez agregado el trabajo, arrastre los puntos de ambos extremos del trabajo hacia los puntos de otro trabajo para crear una relación de dependencia. De esta manera se crea un flujo de trabajo completo.
Configure la activación programada para el flujo de trabajo creado. Para obtener más información, consulte Cron.
-
Resultados
Después de activar el flujo de trabajo, puede consultar el progreso del flujo y el estado de cada nodo en la lista de instancias del flujo de trabajo. Puede hacer clic derecho en un nodo para consultar detalles sobre el resultado de ejecución del nodo.
Siguientes pasos
En la lista de instancias de trabajos de SchedulerX, puede consultar los detalles de ejecución de un nodo de trabajo, finalizar un trabajo o volver a ejecutarlo.
En Operation Center de DataWorks, puede consultar información sobre las instancias de nodos de DataWorks que están programadas.