Consulta regras de monitoramento de qualidade por paginação.
Esta API foi descontinuada. Recomendamos migrar para dataworks-public(2024-05-18) - ListDataQualityScans para funcionalidade aprimorada e suporte contínuo. Embora a API descontinuada permaneça temporariamente acessível, nenhuma atualização ou correção de bugs será fornecida.
Descrição da operação
Você deve adquirir o DataWorks Basic Edition ou uma edição superior para usar este recurso.
Experimente agora
Testar
Autorização RAM
|
Ação |
Nível de acesso |
Tipo de recurso |
Chave de condição |
Ação dependente |
|
dataworks:* |
list |
*All Resource
|
Nenhuma | Nenhuma |
Parâmetros da solicitação
|
Parâmetro |
Tipo |
Obrigatório |
Descrição |
Exemplo |
| ProjectId |
integer |
Sim |
O ID do workspace do DataWorks. |
10002 |
| DataQualityEvaluationTaskId |
integer |
Não |
O ID da tarefa de verificação de qualidade associada. |
10000 |
| TableGuid |
string |
Não |
O identificador exclusivo da tabela à qual a regra se aplica no Mapa de Dados do DataWorks. |
odps.unit_test.tb_unit_test |
| Name |
string |
Não |
O nome da regra para correspondência aproximada. |
unit_test |
| PageSize |
integer |
Não |
O número de entradas por página. Valor padrão: 10. Valor máximo: 200. |
10 |
| PageNumber |
integer |
Sim |
O número da página para paginação. Valor padrão: 1. |
1 |
Elementos de resposta
|
Elemento |
Tipo |
Descrição |
Exemplo |
|
object |
Os parâmetros de resposta. |
||
| RequestId |
string |
O ID da solicitação. |
691CA452-D37A-4ED0-9441 |
| PagingInfo |
object |
O resultado da consulta paginada da lista de regras. |
|
| PageNumber |
integer |
O número da página. |
1 |
| PageSize |
integer |
O tamanho da página. |
10 |
| TotalCount |
integer |
O número total de entradas. |
294 |
| DataQualityRules |
array<object> |
A lista de regras. |
|
|
array<object> |
|||
| Id |
integer |
O ID da regra. |
22130 |
| Name |
string |
O nome da regra. |
The table cannot be empty. |
| ProjectId |
integer |
O ID do espaço de trabalho do DataWorks. |
100001 |
| Enabled |
boolean |
Indica se a regra de qualidade de dados está ativada. |
true |
| Severity |
string |
O nível de severidade da regra para o negócio (correspondente a regras fortes/fracas na página). Valores enumerados válidos:
|
High |
| Description |
string |
A descrição da regra. Comprimento máximo: 500 caracteres. |
this is a odps _sql task |
| Target |
object |
O objeto monitorado pela regra. |
|
| Type |
string |
O tipo do objeto monitorado.
|
Table |
| DatabaseType |
string |
Para conjuntos de dados do tipo tabela, o tipo de banco de dados ao qual a tabela pertence.
|
maxcompute |
| TableGuid |
string |
O ID exclusivo da tabela à qual a regra se aplica no Data Map. |
odps.unit_test.tb_unit_test |
| TemplateCode |
string |
O identificador exclusivo do modelo de regra referenciado pela regra. |
SYSTEM:user_defined_sql |
| SamplingConfig |
object |
As configurações necessárias para a coleta de amostras. |
|
| Metric |
string |
O nome da métrica de amostragem.
|
Max |
| MetricParameters |
string |
Os parâmetros necessários durante a coleta de amostras. |
{ "Columns": [ "id", "name" ] , "SQL": "select count(1) from table;"} |
| SettingConfig |
string |
As instruções de configuração de parâmetros de tempo de execução inseridas e executadas antes que a instrução de amostragem seja realmente executada. Comprimento máximo: 1.000 caracteres. Atualmente, apenas o MaxCompute é suportado. |
SET odps.sql.udf.timeout=600s; SET odps.sql.python.version=cp27; |
| SamplingFilter |
string |
A condição para a filtragem secundária de dados que não são relevantes durante a amostragem. Comprimento máximo: 16.777.215 caracteres. |
id IS NULL |
| CheckingConfig |
object |
As configurações de validação de amostras. |
|
| Type |
string |
O método de cálculo de limite.
|
Fixed |
| ReferencedSamplesFilter |
string |
Alguns tipos de limites exigem a consulta de algumas amostras de referência e, em seguida, a agregação dos valores das amostras de referência para obter o limite para comparação. Uma expressão é usada aqui para representar o método de consulta para as amostras de referência. |
{ "bizdate": [ "-1", "-7", "-1m" ] } |
| Thresholds |
object |
As configurações de limite. |
|
| Expected |
object |
As configurações de limite esperado. |
|
| Operator |
string |
O operador de comparação.
|
> |
| Value |
string |
O valor do limite. |
100.0 |
| Expression |
string |
A expressão do limite. As regras do tipo taxa de flutuação devem usar o método de expressão para indicar o limite de flutuação. Exemplos:
As regras do tipo valor fixo também podem configurar limites usando expressões. Se ambos forem configurados, a expressão terá precedência sobre Operator e Value. |
$checkValue > 0.01 |
| Warned |
object |
As configurações de limite para alertas normais. |
|
| Operator |
string |
O operador de comparação.
|
> |
| Value |
string |
O valor do limite. |
100.0 |
| Expression |
string |
A expressão do limite. As regras do tipo taxa de flutuação devem usar o método de expressão para indicar o limite de flutuação. Exemplos:
As regras do tipo valor fixo também podem configurar limites usando expressões. Se ambos forem configurados, a expressão terá precedência sobre Operator e Value. |
$checkValue > 0.01 |
| Critical |
object |
As configurações de limite para alertas críticos. |
|
| Operator |
string |
O operador de comparação.
|
> |
| Value |
string |
O valor do limite. |
100.0 |
| Expression |
string |
A expressão do limite. As regras do tipo taxa de flutuação devem usar o método de expressão para indicar o limite de flutuação. Exemplos:
As regras do tipo valor fixo também podem configurar limites usando expressões. Se ambos forem configurados, a expressão terá precedência sobre Operator e Value. |
$checkValue > 0.01 |
| ErrorHandlers |
array<object> |
A lista de manipuladores de problemas para validação de regras de qualidade de dados. |
|
|
object |
O manipulador de problemas para validação de regras de qualidade de dados. |
||
| Type |
string |
O tipo de manipulador:
|
SaveErrorData |
| ErrorDataFilter |
string |
Para regras SQL personalizadas, o usuário precisa especificar o SQL para filtrar dados com problemas. |
SELECT * FROM tb_api_log WHERE id IS NULL |
Exemplos
Resposta de sucesso
JSON formato
{
"RequestId": "691CA452-D37A-4ED0-9441",
"PagingInfo": {
"PageNumber": 1,
"PageSize": 10,
"TotalCount": 294,
"DataQualityRules": [
{
"Id": 22130,
"Name": "The table cannot be empty.",
"ProjectId": 100001,
"Enabled": true,
"Severity": "High",
"Description": "this is a odps _sql task",
"Target": {
"Type": "Table",
"DatabaseType": "maxcompute",
"TableGuid": "odps.unit_test.tb_unit_test"
},
"TemplateCode": "SYSTEM:user_defined_sql",
"SamplingConfig": {
"Metric": "Max",
"MetricParameters": "{ \"Columns\": [ \"id\", \"name\" ] , \"SQL\": \"select count(1) from table;\"}",
"SettingConfig": "SET odps.sql.udf.timeout=600s; \nSET odps.sql.python.version=cp27;",
"SamplingFilter": "id IS NULL"
},
"CheckingConfig": {
"Type": "Fixed",
"ReferencedSamplesFilter": "{ \"bizdate\": [ \"-1\", \"-7\", \"-1m\" ] }",
"Thresholds": {
"Expected": {
"Operator": ">",
"Value": "100.0",
"Expression": "$checkValue > 0.01"
},
"Warned": {
"Operator": ">",
"Value": "100.0",
"Expression": "$checkValue > 0.01"
},
"Critical": {
"Operator": ">",
"Value": "100.0",
"Expression": "$checkValue > 0.01"
}
}
},
"ErrorHandlers": [
{
"Type": "SaveErrorData\n",
"ErrorDataFilter": "SELECT * FROM tb_api_log WHERE id IS NULL"
}
]
}
]
}
}
Códigos de erro
Consulte Códigos de Erro para uma lista completa.
Notas de versão
Consulte Notas de Versão para uma lista completa.