Tiering penyimpanan otomatis OSS-HDFS mengurangi biaya penyimpanan untuk data kepatuhan atau arsip yang harus disimpan tetapi jarang dibaca. Fitur ini memindahkan data antar kelas penyimpanan berdasarkan pola akses—mendorong data dingin ke Infrequent Access (IA), Archive, Cold Archive, atau Deep Cold Archive, serta menarik kembali data panas ke Standard bila diperlukan.
Cara kerja
Tiering penyimpanan otomatis menggunakan dua lapisan yang bekerja bersama:
Kebijakan penyimpanan (lapisan JindoFS): Jalankan perintah
setStoragePolicyuntuk memberi tag objek dalam direktori dengan kelas penyimpanan target (misalnya,transition-storage-class: IA).Aturan siklus hidup (lapisan OSS): Saat Anda mengaktifkan fitur ini di Konsol OSS, OSS secara otomatis membuat aturan siklus hidup yang bertindak berdasarkan tag tersebut. Objek dalam direktori
.dlsdata/yang memiliki tag yang sesuai akan dikonversi ke kelas penyimpanan target satu hari setelah modifikasi terakhirnya.
Model dua lapisan ini berarti perintah JindoFS menandai data untuk transisi, sedangkan OSS menjalankan konversi kelas sebenarnya sesuai jadwal harian.
| Kelas penyimpanan | Nilai kebijakan | Nilai tag |
|---|---|---|
| IA | CLOUD_IA | IA |
| Archive | CLOUD_AR | Archive |
| Cold Archive | CLOUD_COLD_AR | ColdArchive |
| Deep Cold Archive | CLOUD_DEEP_COLD_AR | DeepColdArchive |
Transisi yang didukung:
Panas ke dingin: Standard → IA → Archive → Cold Archive → Deep Cold Archive
Dingin ke panas: Deep Cold Archive → Cold Archive → Archive → IA → Standard
Batasan dan prasyarat
Wilayah yang didukung
| Kelas penyimpanan | Wilayah yang didukung |
|---|---|
| IA, Archive, Cold Archive | Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Shenzhen), Tiongkok (Zhangjiakou), Tiongkok (Ulanqab), Tiongkok (Hong Kong), Singapura, Jerman (Frankfurt), AS (Silicon Valley), AS (Virginia), Indonesia (Jakarta) |
| Deep Cold Archive | Tiongkok (Hangzhou), Tiongkok (Shanghai), Tiongkok (Beijing), Tiongkok (Shenzhen), Tiongkok (Zhangjiakou), Tiongkok (Ulanqab), Singapura |
Versi JindoSDK
Diperlukan JindoSDK versi 6.8.0 atau lebih baru.
Jika versi JindoSDK Anda lebih lama dari 6.8.0, Anda tidak dapat membuat objek langsung di direktori IA, Archive, Cold Archive, atau Deep Cold Archive. Sebagai solusi sementara, buat objek di direktori Standard, lalu pindahkan menggunakan operasi rename.
Tiket yang diperlukan
Anda harus mengajukan tiket dukungan sebelum menggunakan fitur ini:
IA, Archive, dan Cold Archive: Satu tiket mencakup ketiga kelas tersebut.
Deep Cold Archive: Ajukan tiket terpisah.
Aktivasi pertama kali: Jika fitur ini belum pernah diaktifkan pada akun Anda, satu tiket akan mengaktifkan keempat kelas penyimpanan.
Batas ukuran konversi
Mengonversi objek Archive, Cold Archive, atau Deep Cold Archive ke Standard atau IA dalam satu operasi: maksimal total 5 TB.
Objek Archive, Cold Archive, atau Deep Cold Archive dalam status Processing secara bersamaan: maksimal 50 TB.
Keamanan aturan siklus hidup
Setelah Anda mengaktifkan tiering penyimpanan otomatis, OSS secara otomatis membuat aturan siklus hidup untuk setiap nilai tag. Jangan mengubah atau menghapus aturan ini. Melakukannya dapat menyebabkan kehilangan data atau error OSS-HDFS.
Tagihan
Biaya pengambilan data
Membaca objek IA, Archive, Cold Archive, atau Deep Cold Archive dikenai biaya pengambilan data. Hindari menyimpan data yang sering diakses di kelas penyimpanan ini. Lihat Biaya pemrosesan data.
Biaya tag
Menetapkan kebijakan penyimpanan menambahkan tag transition-storage-class ke setiap blok data. Tag ditagih sesuai aturan penandaan objek OSS. Lihat Biaya penandaan objek.
Durasi penyimpanan minimum
Setiap kelas penyimpanan memiliki durasi penyimpanan minimum. Objek yang ditransisikan sebelum mencapai durasi minimum tetap dikenai biaya untuk periode minimum penuh.
| Kelas penyimpanan | Durasi minimum |
|---|---|
| IA | 30 hari |
| Archive | 60 hari |
| Cold Archive | 180 hari |
| Deep Cold Archive | 180 hari |
Cara penghitungan waktu berbeda-beda tergantung kelas tujuan:
IA dan Archive: Waktu tidak direset saat konversi. Hari yang dihabiskan di kelas sebelumnya dihitung menuju durasi minimum, sehingga waktu penyimpanan sebelumnya mengurangi kewajiban tersisa.
Cold Archive dan Deep Cold Archive: Waktu direset saat konversi. Durasi minimum penuh 180 hari berlaku sejak tanggal konversi, terlepas dari durasi penyimpanan sebelumnya.
Contoh:
| Jalur konversi | Usia sebelum konversi | Sisa durasi minimum yang harus dipenuhi | Tagihan untuk kelas sebelumnya |
|---|---|---|---|
| Standard (10 h) → IA | 10 hari | IA selama 20 hari lagi | Standard: 10 hari |
| IA (10 d) → Archive | 10 hari | Archive selama 50 hari lagi | IA: 10 hari |
| Jenis Penyimpanan Standar (10 d) → Penyimpanan Arsip Dingin | 10 hari | Cold Archive selama 180 hari lagi | Standard: 10 hari |
| Jenis Penyimpanan Standar (10 hari) → Deep Cold Archive | 10 hari | Deep Cold Archive selama 180 hari lagi | Standard: 10 hari |
| Penyimpanan Arsip Dingin (10 d) → IA | 10 hari | Cold Archive selama 170 hari lagi, atau IA selama 30 hari setelah konversi | Cold Archive: 10 hari |
Aktifkan tiering penyimpanan otomatis
Langkah 1: Siapkan JindoFS SDK
Sebelum memulai, pastikan Anda telah:
Menulis data ke OSS-HDFS
Menginstal JindoSDK versi 6.8.0 atau lebih baru (lihat Menghubungkan kluster non-EMR ke OSS-HDFS)
Mengajukan tiket dukungan (lihat Tiket yang diperlukan)
Terhubung ke instans Elastic Compute Service (ECS). Lihat Menghubungkan ke instans.
Unduh paket JAR JindoFS SDK.
Buka direktori
bindari paket yang diekstrak:cd jindofs-sdk-x.x.x-linux/bin/Buat file konfigurasi bernama
jindosdk.cfgdi direktoribin:[client] fs.oss.accessKeyId = <your-access-key-id> fs.oss.accessKeySecret = <your-access-key-secret> fs.oss.endpoint = cn-hangzhou.oss-dls.aliyuncs.comGanti
cn-hangzhou.oss-dls.aliyuncs.comdengan titik akhir wilayah Anda.Tetapkan variabel lingkungan
JINDOSDK_CONF_DIRke jalur mutlak file konfigurasijindosdk.cfg:export JINDOSDK_CONF_DIR=<JINDOSDK_CONF_DIR>
Langkah 2: Tetapkan kebijakan penyimpanan
Jalankan setStoragePolicy pada direktori yang berisi data yang akan ditiering. Perintah ini memberi tag semua objek dalam direktori tersebut untuk dikonversi.
| Target storage class | Command |
|---|---|
| IA | ./jindofs fs -setStoragePolicy -path oss://examplebucket/dir1 -policy CLOUD_IA |
| Archive | ./jindofs fs -setStoragePolicy -path oss://examplebucket/dir2 -policy CLOUD_AR |
| Cold Archive | ./jindofs fs -setStoragePolicy -path oss://examplebucket/dir3 -policy CLOUD_COLD_AR |
| Deep Cold Archive | ./jindofs fs -setStoragePolicy -path oss://examplebucket/dir4 -policy CLOUD_DEEP_COLD_AR |
Jika tidak ada kebijakan yang ditetapkan pada objek atau subdirektori, objek tersebut mewarisi kebijakan dari direktori induknya.
Langkah 3: Aktifkan fitur di Konsol OSS
Masuk ke Konsol OSS.
Di panel navigasi kiri, klik Buckets, lalu klik nama bucket target.
Di pohon navigasi kiri, pilih Data Lake > OSS-HDFS.
Di tab OSS-HDFS, klik Configure.
Di bagian Basic Settings pada panel Automatic Storage Tiering, aktifkan Status. OSS secara otomatis membuat aturan siklus hidup untuk setiap nilai tag. Setiap aturan mengonversi objek dalam
.dlsdata/yang memiliki tag yang sesuai satu hari setelah modifikasi terakhirnya.
Klik OK.
Setelah mengaktifkan fitur:
OSS memuat aturan siklus hidup dalam waktu 24 jam setelah pembuatan.
Aturan siklus hidup dijalankan sekali per hari pukul 08.00 (UTC+8). Waktu penyelesaian tepatnya bervariasi tergantung jumlah objek.
Objek mencapai kelas penyimpanan target dalam waktu minimal 48 jam.
Perintah kebijakan penyimpanan
setStoragePolicy
./jindofs fs -setStoragePolicy -path <path> -policy <policy>Menetapkan kebijakan penyimpanan ke semua objek dalam suatu path.
| Parameter | Deskripsi |
|---|---|
-path | Path objek atau direktori |
-policy | Kebijakan penyimpanan yang akan diterapkan. Nilai yang valid: CLOUD_STD (Standard), CLOUD_IA (IA), CLOUD_AR (Archive), CLOUD_COLD_AR (Cold Archive), CLOUD_DEEP_COLD_AR (Deep Cold Archive), CLOUD_AR_RESTORED (Archive yang dipulihkan sementara), CLOUD_COLD_AR_RESTORED (Cold Archive yang dipulihkan sementara), CLOUD_DEEP_COLD_AR_RESTORED (Deep Cold Archive yang dipulihkan sementara) |
getStoragePolicy
./jindofs fs -getStoragePolicy -path <path>Mengembalikan kebijakan penyimpanan yang ditetapkan pada suatu path.
unsetStoragePolicy
./jindofs fs -unsetStoragePolicy -path <path>Menghapus kebijakan penyimpanan dari suatu path.
checkStoragePolicy
./jindofs fs -checkStoragePolicy -path <path>Mengembalikan status tugas konversi untuk objek dalam suatu path.
| Status | Makna |
|---|---|
Pending | Tugas konversi sedang dalam antrian |
Submitted | Tugas konversi telah diajukan |
Processing | Tugas konversi sedang berjalan |
Finalized | Tugas konversi selesai |
Perintah ini hanya melaporkan status tugas konversi metadata OSS-HDFS. Perintah ini tidak mencerminkan status pemrosesan tugas yang diajukan ke OSS.
Pulihkan objek Archive atau tier dingin
./jindofs fs -setStoragePolicy -path <path> -policy <policy> -restoreDays <days>Memulihkan sementara objek Archive, Cold Archive, atau Deep Cold Archive untuk akses langsung.
| Parameter | Deskripsi |
|---|---|
-policy | CLOUD_AR_RESTORED (Archive), CLOUD_COLD_AR_RESTORED (Cold Archive), atau CLOUD_DEEP_COLD_AR_RESTORED (Deep Cold Archive) |
-restoreDays | Periode retensi objek yang dipulihkan dalam satuan hari. Default: 1. Rentang valid: 1–7 untuk Archive; 1–365 untuk Cold Archive dan Deep Cold Archive |
Before restoring:
Tunggu minimal dua hari setelah menerapkan
CLOUD_AR,CLOUD_COLD_AR, atauCLOUD_DEEP_COLD_ARsebelum menjalankan pemulihan.Setelah pemulihan dimulai, objek Archive dapat dibaca dalam beberapa menit. Objek Cold Archive dan Deep Cold Archive memerlukan beberapa jam.
Setelah periode retensi berakhir, objek tidak dapat lagi dibaca. Untuk memperpanjang akses, lakukan pemulihan ulang selama periode retensi—beri jeda minimal dua hari antar operasi pemulihan.
Ukuran total objek Archive, Cold Archive, atau Deep Cold Archive yang dapat Anda konversi ke Standard atau IA dalam satu operasi tidak boleh melebihi 5 TB. Ukuran total objek Archive, Cold Archive, atau Deep Cold Archive dalam status Processing tidak boleh melebihi 50 TB.