Crea un rastreador de metadatos y configura el origen de datos, el alcance de la recolección, el grupo de recursos y el método de programación.
Descripción de la operación
Escenarios
Crea un rastreador de metadatos para un origen de datos especificado y configura el alcance de la recolección, el grupo de recursos, el método de programación y las configuraciones extendidas.
Flujo de trabajo recomendado
Llame a
GetCrawlerTypeCapabilitiespara consultar los tipos de rastreadores y sus capacidades de configuración admitidas en la región actual.Cree un rastreador mediante un origen de datos que coincida con el valor
Type. Antes de crear un rastreador, asegúrese de que el origen de datos y el grupo de recursos seleccionado pasen la prueba de conectividad llamando a la APITestDataSourceConnectivitypara evitar la creación de un rastreador no válido.Después de crear el rastreador, llame a
RunCrawlerpara ejecutarlo manualmente o configure una programación periódica para su ejecución automática.
Requisitos de edición
Se requiere DataWorks Basic Edition o una edición superior.
Precauciones
Una creación exitosa solo indica que se ha generado la configuración del rastreador. La recolección de metadatos no se ejecuta inmediatamente.
Pruébelo ahora
Test
Autorización de RAM
|
Action |
Nivel de acceso |
Tipo de recurso |
Clave de condición |
Acción dependiente |
|
dataworks:CreateCrawler |
create |
*All Resource
|
Ninguna | Ninguna |
Sintaxis de la solicitud
POST HTTP/1.1
Parámetros de la solicitud
|
Parámetro |
Tipo |
Obligatorio |
Descripción |
Ejemplo |
| Name |
string |
Sí |
El nombre del rastreador de metadatos. El nombre puede tener hasta 128 caracteres de longitud. |
example_crawler |
| DataSourceId |
integer |
Sí |
El ID del origen de datos asociado con el rastreador. El origen de datos debe estar vinculado a un espacio de trabajo de DataWorks y el tipo de origen de datos debe coincidir con el valor Type. |
12345 |
| Type |
string |
Sí |
El tipo de rastreador. Llame a GetCrawlerTypeCapabilities para consultar los valores válidos admitidos en la región actual. |
starrocks |
| ResourceGroupId |
string |
No |
El ID del grupo de recursos Serverless 2.0 utilizado para ejecutar la tarea de recolección. Si este parámetro es obligatorio depende del valor RequireResourceGroup devuelto por GetCrawlerTypeCapabilities. |
Serverless_res_group_1234567890123456_1234567890 |
| Scope |
object |
No |
La configuración del alcance de recolección. Si no se especifica este parámetro, se utiliza el valor DefaultScopeUnit devuelto por GetCrawlerTypeCapabilities. |
|
| Unit |
string |
Sí |
La granularidad del alcance de recolección. Los valores válidos están determinados por el valor SupportedScopeUnits devuelto por GetCrawlerTypeCapabilities. |
DATABASE |
| Items |
array |
No |
La lista de nombres de bases de datos. Este parámetro solo se admite cuando Unit se establece en DATABASE. Se permite un máximo de 1000 entradas. Los nombres no pueden estar vacíos ni duplicados. |
|
|
string |
No |
Un nombre de base de datos individual. El nombre puede tener hasta 256 caracteres de longitud. |
example_database |
|
| ExcludeRegex |
string |
No |
La expresión regular utilizada para excluir objetos del alcance de recolección. Este parámetro solo se admite cuando el valor SupportExcludeRegex devuelto por GetCrawlerTypeCapabilities es true. |
^tmp_.* |
| ScheduleConfig |
object |
No |
La configuración de programación. Si no se especifica este parámetro, se utiliza la programación manual. |
|
| Type |
string |
Sí |
El tipo de programación. MANUAL indica ejecución manual y NORMAL indica programación periódica. Los orígenes de datos en el entorno de desarrollo solo admiten MANUAL. La disponibilidad de NORMAL depende del valor SupportSchedule devuelto por GetCrawlerTypeCapabilities. |
NORMAL |
| CronExpress |
string |
No |
La expresión cron de seis campos para la programación periódica. Este parámetro es obligatorio cuando Type se establece en NORMAL. El campo de segundos debe ser 0 y la frecuencia de programación no puede superar una vez por hora. |
0 0 2 ? * * |
| EnableAiComment |
boolean |
No |
Especifica si se deben habilitar las descripciones de metadatos con IA. Este parámetro solo se admite cuando el valor SupportAiComment devuelto por GetCrawlerTypeCapabilities es true. |
|
| Options |
object |
No |
La configuración extendida para el tipo de rastreador. Los nombres de clave, los tipos de valor, los campos obligatorios, los valores predeterminados y los valores válidos están determinados por el valor SupportedOptionKeys devuelto por GetCrawlerTypeCapabilities. |
|
|
string |
No |
El valor de un elemento de configuración extendida individual para el rastreador. Los elementos de configuración admitidos, los tipos de valor y los rangos de valores están determinados por el valor SupportedOptionKeys devuelto por GetCrawlerTypeCapabilities. |
v1 |
DataSourceId debe coincidir con el valor Type. Si ResourceGroupId, Scope, ScheduleConfig, EnableAiComment y Options son compatibles depende de GetCrawlerTypeCapabilities.
Elementos de la respuesta
|
Elemento |
Tipo |
Descripción |
Ejemplo |
|
object |
Los parámetros de respuesta. |
||
| RequestId |
string |
El ID de la solicitud. Se utiliza para localizar registros y solucionar problemas. |
9252F32F-D855-549E-8898-61CF5A733050 |
| Success |
boolean |
Indica si la solicitud fue exitosa. |
|
| Id |
integer |
El ID del rastreador de metadatos recién creado. |
1234 |
Id es el ID del rastreador de metadatos recién creado. Una respuesta exitosa no indica que la recolección de metadatos se haya completado.
Ejemplos
Respuesta exitosa
JSON Formato
{
"RequestId": "9252F32F-D855-549E-8898-61CF5A733050",
"Success": false,
"Id": 1234
}
Códigos de error
Consulte Códigos de error para ver la lista completa.
Notas de la versión
Consulte Notas de la versión para ver la lista completa.