A coleta da frequência de acesso a tabelas ou partições do JindoTable ajuda você a distinguir entre dados frios e quentes, reduzir custos de armazenamento e melhorar a eficiência do cache.
Pré-requisitos
É necessário ter um cluster do Alibaba Cloud E-MapReduce. Para mais informações, consulte Crie um cluster.
Contexto
O JindoTable oferece suporte à coleta de registros de acesso para tabelas Hive. Os dados coletados são armazenados no namespace do service SmartData.
O SmartData 3.2.x e versões posteriores oferecem suporte à coleta de frequência de acesso para os engines Spark, Hive e Presto. Esse recurso está ativado por padrão para Spark e Presto. Para desativá-lo, consulte Desative a coleta de frequência de acesso. Para Hive, o recurso vem desativado por padrão. Para ativá-lo, consulte Ative a coleta de frequência de acesso para Hive.
Consultar dados
Use um comando do JindoTable para consultar a frequência de acesso.
-
Sintaxe
jindo table -accessStat <-d [days]> <-n [topNums]>Os valores para
daysetopNumsdevem ser números inteiros positivos. Se você definirdayscomo 1, o comando consultará todos os registros de acesso desde as 00:00 (hora local) do dia atual até o momento presente. -
Função
Consulta as N tabelas ou partições mais acessadas em um intervalo de tempo especificado.
-
Exemplo: Consultar as 20 tabelas ou partições mais acessadas nos últimos sete dias.
jindo table -accessStat -d 7 -n 20
Para mais informações sobre o JindoTable, consulte JindoTable User Guide.
Ativar a coleta de frequência de acesso para Hive
Faça login no console do Alibaba Cloud E-MapReduce.
Na barra de navegação superior, selecione sua região e grupo de recursos.
Clique na aba Clusters.
Na página Clusters, localize seu cluster e clique em Details na coluna Actions.
-
Modifique a configuração do service Hive.
No painel de navegação à esquerda, escolha .
Na página do service Hive, clique na aba Configure.
Pesquise o parâmetro hive.exec.post.hooks e anexe com.aliyun.emr.table.hive.HivePostHook ao seu valor.
-
Salve a configuração.
No canto superior direito, clique em Save.
Na caixa de diálogo Confirm, insira um Execution Reason e ative a opção auto-update configuration.
Clique em OK.
-
Reinicie o service.
Na página do service Hive, escolha no canto superior direito.
Na caixa de diálogo Execute Cluster Operation, insira um Execution Reason.
Clique em OK.
Na caixa de diálogo Confirm, clique em OK.
Desativar a coleta de frequência de acesso
Faça login no console do Alibaba Cloud E-MapReduce.
Na barra de navegação superior, selecione sua região e grupo de recursos.
Clique na aba Clusters.
Na página Clusters, localize seu cluster e clique em Details na coluna Actions.
-
Modifique os valores dos parâmetros.
-
Service Hive:
No painel de navegação à esquerda, escolha .
Na página do service Hive, clique na aba Configure.
Pesquise o parâmetro hive.exec.post.hooks e remova com.aliyun.emr.table.hive.HivePostHook do seu valor. Para localizar esse parâmetro, insira
hive.exec.post.hooksna caixa Configuration Search. O parâmetro encontra-se na seção hive-site.
-
Service Spark:
No painel de navegação à esquerda, escolha .
Na página do service Spark, clique na aba Configure.
Pesquise o parâmetro spark.sql.queryExecutionListeners e remova com.aliyun.emr.table.spark.SparkSQLQueryListener do seu valor. Para encontrar esse parâmetro, insira
spark.sql.queryExecutionListenersna caixa Configuration Search. O parâmetro está na seção spark-defaults e seu valor atual écom.aliyun.emr.table.spark.SparkSQLQueryListener.
-
Service Presto:
No painel de navegação à esquerda, escolha .
Na página do service Presto, clique na aba Configure.
Pesquise o parâmetro event-listener.name e limpe seu valor.
-
-
Salve a configuração.
No canto superior direito, clique em Save.
Na caixa de diálogo Confirm, insira um Execution Reason e ative a opção auto-update configuration.
Clique em OK.
-
Reinicie os services.
-
Service Hive:
Na página do service Hive, escolha no canto superior direito.
Na caixa de diálogo Execute Cluster Operation, insira um Execution Reason.
Clique em OK.
Na caixa de diálogo Confirm, clique em OK.
-
Service Spark:
Na página do service Spark, escolha no canto superior direito.
Na caixa de diálogo Execute Cluster Operation, insira um Execution Reason.
Clique em OK.
Na caixa de diálogo Confirm, clique em OK.
-
Service Presto:
Na página do service Presto, escolha no canto superior direito.
Na caixa de diálogo Execute Cluster Operation, insira um Execution Reason.
Clique em OK.
Na caixa de diálogo Confirm, clique em OK.
-