JindoTable のアクセス頻度統計収集機能を使用すると、コールドデータとホットデータを区別できるため、全体的なストレージコストの削減とキャッシュ効率の向上が可能になります。
前提条件
クラスターが作成されました。詳細については、「クラスターの作成」をご参照ください。
背景情報
JindoTable は Hive テーブルのアクセスレコードを収集します。収集されたデータは SmartData サービスのの名前空間に保存されます。
SmartData 3.2.x 以降は、Spark、Hive、および Presto エンジンをサポートしています。デフォルトでは、アクセス頻度統計収集は Spark と Presto で有効になっていますが、Hive では無効になっています。この機能を無効にする方法については、「ヒート収集の無効化」をご参照ください。Hive でこの機能を有効にする方法については、「Hive のヒート収集の有効化」をご参照ください。
データクエリ
JindoTable は、アクセス頻度情報をクエリするためのコマンドを提供します。
- 構文
jindo table -accessStat <-d [days]> <-n [topNums]>daysおよびtopNumsパラメーターは正の整数です。daysを 1 に設定すると、コマンドは当日のローカル時間 00:00 から現在時刻までのすべてのアクセスレコードをクエリします。 - 機能
指定した時間範囲内で、最もアクセス頻度の高い上位 N 件のテーブルまたはパーティションをクエリします。
- 例:過去 7 日間で最もアクセス頻度の高い上位 20 件のテーブルまたはパーティションをクエリします。
jindo table -accessStat -d 7 -n 20
JindoTable の使用方法の詳細については、「JindoTable ユーザーガイド」をご参照ください。
Hive のヒート収集の有効化
- E-MapReduce コンソールにログインします。
- 上部のナビゲーションバーで、リージョンとリソースグループを選択します。
- Clusters タブをクリックします。
- Clusters ページで、対象のクラスターを見つけ、[操作] 列の Details をクリックします。
- Hive パラメーターを変更します。
- 左側のナビゲーションウィンドウで、 を選択します。
- Configure タブをクリックします。
- hive.exec.post.hooks パラメーターを検索し、その値に com.aliyun.emr.table.hive.HivePostHook を追加します。他の値が存在する場合は、カンマ (,) を区切り文字として使用します。
- 設定を保存します。
- 右上隅にある Save をクリックします。
- 変更する ダイアログボックスで、Execution Reason を入力し、[設定の自動更新] をオンにします。
- OK をクリックします。
- サービスを再起動します。
- Hive サービスページで、右上隅の を選択します。
- [クラスターアクティビティ] ダイアログボックスで、Execution Reason を入力します。
- OK をクリックします。
- Confirm確認ダイアログボックスで、OK をクリックします。
ヒート収集の無効化
- E-MapReduce コンソールにログインします。
- 上部のナビゲーションバーで、リージョンとリソースグループを選択します。
- Clusters タブをクリックします。
- Clusters ページで、対象のクラスターを見つけ、[操作] 列の Details をクリックします。
- パラメーター値を変更します。
- Hive サービス:
- 左側のナビゲーションウィンドウで、 を選択します。
- Configure タブをクリックします。
- hive.exec.post.hooks パラメーターを検索し、値から com.aliyun.emr.table.hive.HivePostHook を削除します。
- Spark サービス:
- 左側のナビゲーションウィンドウで、 を選択します。
- Configure タブをクリックします。
- spark.sql.queryExecutionListeners パラメーターを検索し、値から com.aliyun.emr.table.spark.SparkSQLQueryListener を削除します。
- Presto サービス:
- 左側のナビゲーションウィンドウで、 を選択します。
- Configure タブをクリックします。
- event-listener.name パラメーターを検索し、値をクリアします。
- Hive サービス:
- 設定を保存します。
- 右上隅にある Save をクリックします。
- 変更する ダイアログボックスで、Execution Reason を入力し、[設定の自動更新] をオンにします。
- OK をクリックします。
- サービスを再起動します。
- Hive サービス:
- Hive サービスページで、右上隅の を選択します。
- [クラスターアクティビティ] ダイアログボックスで、Execution Reason を入力します。
- OK をクリックします。
- Confirm確認ダイアログボックスで、OK をクリックします。
- Spark サービス:
- Spark サービスページで、右上隅の を選択します。
- [クラスターアクティビティ] ダイアログボックスで、Execution Reason を入力します。
- OK をクリックします。
- Confirm確認ダイアログボックスで、OK をクリックします。
- Presto サービス:
- Presto サービスページで、右上隅の を選択します。
- [クラスターアクティビティ] ダイアログボックスで、Execution Reason を入力します。
- OK をクリックします。
- Confirm確認ダイアログボックスで、OK をクリックします。
- Hive サービス: