Fitur koleksi akses dingin untuk tabel atau partisi JindoTable mencatat waktu akses terakhir setiap tabel atau partisi, membantu Anda mengidentifikasi data yang jarang diakses, mengoptimalkan strategi penyimpanan data, dan mengurangi biaya. Sebagai contoh, dalam analitik data, Anda dapat memindahkan data partisi yang jarang digunakan ke media penyimpanan berbiaya lebih rendah untuk menghemat biaya.
Prasyarat
Buat kluster EMR versi 3.35.0 atau yang lebih baru, atau versi 4.9.0 atau yang lebih baru. Untuk informasi selengkapnya, lihat Create a cluster.
Informasi latar belakang
Batasan
- Metadata data lake DLF tidak didukung.
- Alamat IP layanan Hive CLI, HiveServer2, Spark SQL CLI, Spark Thriftserver, dan Presto harus memiliki izin untuk mengakses penyimpanan metadata dasar (MySQL atau RDS).
- Koleksi akses dingin hanya didukung untuk komponen Hive, Spark, dan Presto.
Kueri data
- Sintaksis
jindo table -leastUseStat -n <num> [-i/-ignoreNever]num adalah jumlah entri yang ditampilkan dan harus berupa bilangan bulat positif. -i/-ignoreNever bersifat opsional. Jika ditentukan, tabel atau partisi yang belum pernah diakses akan dikecualikan dari hasil.
- Fungsi
Menampilkan tabel atau partisi yang paling lama tidak diakses.
- Contoh: Kueri 20 tabel atau partisi yang paling jarang diakses.
jindo table -leastUseStat -n 20Output mencakup tiga kolom, seperti pada contoh berikut.tdb.t1 pid=20/qid=ten 2021-03-26 13:53:52 tdb.t2 2021-03-26 13:53:58- Kolom pertama menunjukkan nama tabel dalam format database_name.table_name.
- Kolom kedua menunjukkan nama partisi dalam format partition_key_column1=value1/partition_key_column2=value2/.... Kolom ini kosong untuk tabel non-partisi.
- Kolom ketiga menunjukkan waktu akses terbaru dalam format yyyy-MM-dd HH:mm:ss.
Catatan Untuk tabel partisi, hanya partisi yang ditampilkan. Tabel itu sendiri tidak dicantumkan secara terpisah.
Untuk informasi selengkapnya tentang penggunaan JindoTable, lihat JindoTable usage instructions.
Aktifkan koleksi akses dingin untuk Spark
- Buka halaman Spark.
- Masuk ke Alibaba Cloud E-MapReduce console.
- Di bilah menu atas, pilih Wilayah dan kelompok sumber daya sesuai kebutuhan.
- Klik tab Clusters.
- Di halaman Clusters, klik Details pada baris kluster target.
- Di panel navigasi kiri, pilih .
- Masuk ke Alibaba Cloud E-MapReduce console.
- Di halaman layanan Spark, klik tab Configure.
- Cari parameter spark.sql.queryExecutionListeners. Pastikan nilainya mencakup com.aliyun.emr.table.spark.SparkSQLQueryListener. Pisahkan beberapa listener dengan koma (,).
- Tambahkan konfigurasi kustom.
- Di halaman Service Configuration, klik tab spark-defaults.
- Klik Custom Configuration di pojok kanan atas.
- Di kotak dialog Add Configuration Item, atur Key menjadi spark.sql.query.update.access.time.enabled dan Value menjadi true.
- Klik OK.
- Simpan konfigurasi.
- Klik Save.
- Di kotak dialog Confirm, masukkan Execution Reason dan klik OK.
- Restart semua komponen.
- Di pojok kanan atas, pilih .
- Di kotak dialog Execute Cluster Operation, masukkan Execution Reason dan klik OK.
- Di kotak dialog Confirm, klik OK.
Aktifkan koleksi akses dingin untuk Hive
- Buka halaman Hive.
- Masuk ke Alibaba Cloud E-MapReduce console.
- Di bilah menu atas, pilih Wilayah dan kelompok sumber daya sesuai kebutuhan.
- Klik tab Clusters.
- Di halaman Clusters, klik Details pada baris kluster target.
- Di panel navigasi kiri, pilih .
- Masuk ke Alibaba Cloud E-MapReduce console.
- Di halaman layanan Hive, klik tab Configure.
- Cari parameter hive.exec.post.hooks. Pastikan nilainya mencakup com.aliyun.emr.table.hive.HivePostHook. Pisahkan beberapa hook dengan koma (,).
- Tambahkan konfigurasi kustom.
- Di halaman Service Configuration, klik tab hive-site.
- Klik Custom Configuration di pojok kanan atas.
- Di kotak dialog Add Configuration Item, atur Key menjadi hive.hook.update.access.time.enabled dan Value menjadi true.
- Klik OK.
- Simpan konfigurasi.
- Klik Save.
- Di kotak dialog Confirm, masukkan Execution Reason dan klik OK.
- Restart semua komponen.
- Di pojok kanan atas, pilih .
- Di kotak dialog Execute Cluster Operation, masukkan Execution Reason dan klik OK.
- Di kotak dialog Confirm, klik OK.
Aktifkan koleksi akses dingin untuk Presto
- Buka halaman Presto.
- Masuk ke Alibaba Cloud E-MapReduce console.
- Di bilah menu atas, pilih Wilayah dan kelompok sumber daya sesuai kebutuhan.
- Klik tab Clusters.
- Di halaman Clusters, klik Details pada baris kluster target.
- Di panel navigasi kiri, pilih .
- Masuk ke Alibaba Cloud E-MapReduce console.
- Di halaman layanan Presto, klik tab Configure.
- Cari parameter event-listener.name. Pastikan nilainya mencakup jindo-presto-post-event-listener.
- Tambahkan konfigurasi kustom.
- Di halaman Service Configuration, klik tab event-listener.properties.
- Klik Custom Configuration di pojok kanan atas.
- Di kotak dialog Add Configuration Item, atur Key menjadi listener.update.access.time.enabled dan Value menjadi true.
- Klik OK.
- Simpan konfigurasi.
- Klik Save.
- Di kotak dialog Confirm, masukkan Execution Reason dan klik OK.
- Restart semua komponen.
- Di pojok kanan atas, pilih .
- Di kotak dialog Execute Cluster Operation, masukkan Execution Reason dan klik OK.
- Di kotak dialog Confirm, klik OK.