Ikhtisar Akselerator OSS - Object Storage Service

Bisnis yang menggunakan AI, gudang data, dan analitik data besar memerlukan latensi akses data lebih rendah, permintaan per detik (QPS) lebih tinggi, dan throughput lebih besar dari layanan yang berjalan di Object Storage Service (OSS). Untuk memenuhi kebutuhan ini, OSS menyediakan fitur akselerator. Akselerator menyimpan objek panas dari OSS pada media penyimpanan NVMe SSD berkinerja tinggi di zona yang sama dengan layanan komputasi Anda. Ini memberikan akses data dengan latensi level milidetik dan QPS tinggi.

Manfaat

Latensi Rendah
Akselerator OSS adalah layanan tingkat zona yang dapat Anda terapkan di zona yang sama dengan sumber daya komputasi untuk mengurangi latensi jaringan. Akselerator menggunakan media NVMe SSD untuk menurunkan latensi akses penyimpanan, memberikan proses unduhan ujung-ke-ujung dengan latensi level milidetik. Hal ini sangat efektif untuk mengunduh file model untuk inferensi dan menanyakan data panas dalam gudang data.
IOPS Tinggi
Media NVMe SSD berkinerja tinggi mampu memberikan ratusan ribu operasi input/output baca per detik (IOPS). Ini ideal untuk pembacaan sering file atau blok data kecil yang berukuran ratusan kilobita.
Kepadatan Throughput Tinggi
Akselerator OSS memberikan throughput tinggi untuk jumlah data kecil. Ini memenuhi kebutuhan baca burst untuk set data panas kecil.
Throughput Tinggi
Bandwidth akselerator meningkat secara linear dengan kapasitasnya. Ini memberikan throughput burst hingga ratusan GB/detik.
Penskalaan Elastis
Tugas komputasi sering kali bersifat periodik, dan kebutuhan sumber daya bervariasi berdasarkan tugas. Anda dapat menambah atau mengurangi akselerator secara online sesuai kebutuhan. Ini mencegah pemborosan sumber daya dan menurunkan biaya Anda. Akselerator mendukung ukuran cache mulai dari 50 GB hingga ratusan terabita. Ini juga mewarisi manfaat penyimpanan data besar dari OSS dan dapat langsung menyimpan beberapa tabel atau partisi dari gudang data.
Pemisahan Penyimpanan dan Komputasi
Dibandingkan dengan ruang cache pada server komputasi, ruang dan performa Akselerator OSS dapat disesuaikan secara online dan independen dari server komputasi.
Konsistensi Data
Akselerator memberikan konsistensi kuat untuk data OSS, fitur yang tidak tersedia dalam solusi caching tradisional. Ketika sebuah file di OSS diperbarui, akselerator secara otomatis mendeteksi dan menyimpan file yang diperbarui. Ini memastikan bahwa mesin komputasi selalu membaca data terbaru.
Beberapa Kebijakan Pra-ambil
Akselerator OSS secara otomatis mendeteksi pembaruan file di OSS, memastikan bahwa Mesin DPI membaca data terbaru. Akselerator OSS menyediakan kebijakan pra-ambil berikut:
- Pra-ambil read-through: Jika permintaan baca menghasilkan cache miss di akselerator, akselerator secara otomatis melakukan pengambilan asal dari OSS. Data kemudian diambil dan disimpan di akselerator.
- Pra-ambil sinkron: Ketika data ditulis ke OSS, data tersebut juga disinkronkan ke cache di akselerator.
- Pra-ambil asinkron: Anda dapat mengonfigurasi akselerator untuk batch-cache data dari OSS ke akselerator.
  Catatan
  - Pra-ambil read-through diaktifkan secara default dan tidak dapat dikonfigurasi.
  - Pra-ambil sinkron dan asinkron harus diaktifkan secara manual. Anda dapat menggunakan kedua fitur tersebut pada saat yang sama.

Cara kerjanya

Setelah Anda membuat akselerator, akselerator tersebut diberi nama domain akselerasi internal spesifik zona. Nama domain ini hanya dapat diakses dari dalam jaringan internal dan tidak mendukung akses jaringan publik. Sebagai contoh, nama domain akselerasi untuk Zona H di wilayah China (Beijing) adalah cn-beijing-h-internal.oss-data-acc.aliyuncs.com. Jika Anda berada di virtual private cloud (VPC) yang sama dengan akselerator, Anda dapat mengakses sumber daya di akselerator melalui nama domain akselerasi. Prosesnya adalah sebagai berikut:

Permintaan Tulis
- Pra-ambil read-through: Permintaan tulis yang dikirim dari klien ke nama domain akselerasi diteruskan langsung ke Bucket OSS. Prosesnya sama seperti menggunakan nama domain OSS default.
- Pra-ambil sinkron: Permintaan tulis yang dikirim dari klien ke nama domain akselerasi diteruskan langsung ke Bucket OSS dan Akselerator OSS.
- Pra-ambil asinkron: Data yang perlu di-pra-ambil ditulis ke Akselerator OSS sebelum permintaan akses dimulai.
- Pra-ambil sinkron + asinkron: Permintaan diteruskan langsung ke Bucket OSS dan Akselerator OSS. Selain itu, data panas dapat ditulis ke Akselerator OSS sebelum permintaan akses dimulai.
Permintaan Baca
Catatan
Proses permintaan baca sama untuk semua kebijakan pra-ambil.
1. Permintaan baca yang dikirim dari klien ke nama domain akselerasi diteruskan ke Akselerator OSS.
2. Setelah akselerator menerima permintaan baca, ia mencari file objek di cache-nya:
  - Jika file objek ada di cache, file tersebut langsung dikembalikan ke klien.
  - Jika file objek tidak ada di cache, akselerator meminta file objek dari Bucket OSS yang terpasang. Setelah file diambil, akselerator menyimpan file objek dan mengembalikannya ke klien.
  - Ketika cache akselerator penuh, akselerator mengganti file yang jarang diakses dengan file yang lebih sering diakses berdasarkan frekuensi akses.

Skenario

Akselerator OSS cocok untuk skenario yang memerlukan bandwidth tinggi dan melibatkan pembacaan data berulang. Skenario spesifik adalah sebagai berikut:

Berbagi data latensi rendah

Latar Belakang
Seorang pelanggan membeli item dari mesin penjual pintar. Mereka menggunakan aplikasi seluler untuk memindai dan memotret item tersebut, dan foto diunggah. Backend aplikasi menerima gambar dan menyimpannya di Akselerator OSS. Subsistem backend kemudian melakukan analisis Moderasi Konten dan deteksi kode batang pada gambar. Hasil deteksi kode batang dikirim kembali ke backend aplikasi untuk pemrosesan pembayaran dan operasi lainnya. Gambar harus diunduh dalam hitungan milidetik.
Solusi
Gunakan Akselerator OSS dengan pra-ambil sinkron diaktifkan. Akselerator OSS dapat secara efektif mengurangi latensi pemuatan gambar untuk sistem analisis, yang memperpendek proses transaksi. Akselerator OSS sangat ideal untuk layanan sensitif-latensi yang melibatkan pembacaan berulang.

Inferensi model

Latar Belakang
Inferensi model AI memerlukan penarikan dan pemuatan file model. Selama debugging inferensi, Anda mungkin juga perlu terus-menerus beralih ke file model baru untuk pengujian. Saat file model menjadi lebih besar, waktu yang diperlukan oleh server inferensi untuk menarik file bertambah.
Solusi
Gunakan Akselerator OSS dengan pra-ambil asinkron atau pra-ambil read-through. Pra-ambil asinkron cocok untuk skenario di mana Anda mengetahui file model mana yang merupakan data panas. Pra-ambil read-through cocok untuk skenario di mana file model panas tidak pasti. Jika Anda memiliki daftar file model panas, Anda dapat mengonfigurasi akselerator sesuai dan menggunakan kit pengembangan perangkat lunak (SDK) akselerator untuk pra-ambil file OSS yang ditentukan ke akselerator. Anda juga dapat mengonfigurasi akselerator dengan ukuran tertentu berdasarkan pengalaman. Akselerator secara otomatis menyimpan file selama pembacaan pertama untuk akses lebih cepat pada pembacaan berikutnya. Akselerator dapat diskalakan kapan saja berdasarkan persyaratan performa. Jika program inferensi Anda perlu mengakses OSS melalui direktori lokal, Anda harus menerapkan ossfs.

Analitik data besar

Latar Belakang
Data bisnis perusahaan dipartisi berdasarkan hari dan diarsipkan di OSS untuk penyimpanan jangka panjang. Analis menggunakan mesin komputasi seperti Hive atau Spark untuk menganalisis data, tetapi ruang lingkup kueri tidak pasti. Para analis ingin meminimalkan waktu analisis kueri.
Solusi
Gunakan Akselerator OSS dengan pra-ambil read-through. Mode ini cocok untuk skenario kueri offline dengan jumlah data besar di mana ruang lingkup kueri tidak pasti dan pra-ambil akurat tidak mungkin dilakukan. Misalnya, data yang dikueri oleh Analis A disimpan di kluster akselerator. Jika kueri dari Analis B mencakup data yang sebelumnya dikueri oleh Analis A, proses analitik data dipercepat.

Akselerasi multi-level

Latar Belakang
Caching sisi klien dan akselerasi sisi server tidak saling eksklusif. Anda dapat menggabungkannya untuk mencapai akselerasi multi-level berdasarkan kebutuhan bisnis Anda.
Solusi
Gunakan Akselerator OSS bersamaan dengan caching sisi klien. Terapkan cache sisi klien di host yang sama dengan kluster komputasi. Jika permintaan baca menghasilkan cache miss sisi klien, data dibaca dari penyimpanan backend, yaitu Akselerator OSS. Gunakan pra-ambil read-through untuk Akselerator OSS, yang menyimpan data pada akses pertama. Karena ruang cache di host klien terbatas, TTL diatur untuk setiap file dan direktori di cache sisi klien. Ketika TTL kadaluwarsa, data yang disimpan dihapus untuk menghemat ruang. Data di Akselerator OSS tidak segera dihapus. Cache-nya dapat menyimpan ratusan terabita data. Jika data yang melewatkan cache sisi klien dibaca lagi, data tersebut dapat dimuat langsung dari Akselerator OSS. Ini mencapai akselerasi dua level.

Metrik

Metrik	Deskripsi
Kapasitas	Setelah pratinjau publik: hingga 100 TB Selama pratinjau publik: hingga 500 GB Jika skenario bisnis Anda memerlukan kapasitas lebih tinggi, ajukan tiket untuk meminta peningkatan kapasitas.
Bandwidth akselerator	Akselerator memberikan bandwidth throughput untuk data yang disimpan berdasarkan ruang yang dikonfigurasi. Setiap terabita ruang akselerator memberikan bandwidth maksimum 2,4 Gbps. Bandwidth throughput yang diberikan oleh akselerator adalah tambahan dari bandwidth OSS standar dan tidak dibatasi oleh kemampuan bandwidth OSS standar. Untuk informasi lebih lanjut tentang batas bandwidth OSS standar, lihat Batasan dan metrik performa. Sebagai contoh, di wilayah China (Shenzhen), OSS memberikan bandwidth standar 100 Gbps. Jika Anda mengaktifkan akselerator dan mengonfigurasi 10 TB ruang akselerator, Anda bisa mendapatkan bandwidth tambahan 24 Gbps dengan latensi rendah melalui nama domain akselerasi. Untuk aplikasi komputasi offline batch, gunakan endpoint wilayah internal OSS untuk memanfaatkan bandwidth standar 100 Gbps dengan pembacaan konkuren besar-besaran blok besar. Untuk layanan kueri data panas, Anda dapat mengakses data yang disimpan di media NVMe SSD melalui nama domain akselerasi OSS untuk mendapatkan bandwidth throughput tambahan 24 Gbps dengan latensi rendah.
Bandwidth baca (puncak)	Rumus: MAX[600, 300 × Kapasitas (TB)] MB/detik MAX[] menunjukkan nilai yang lebih besar dari dua nilai dalam kurung. 600 MB/detik adalah bandwidth dasar yang dijamin. Ini berarti bandwidth minimum 600 MB/detik disediakan terlepas dari kapasitas. 300 × Kapasitas (TB) adalah bagian dari bandwidth yang meningkat secara linear dengan kapasitas penyimpanan, di mana kapasitas diukur dalam TB. Sebagai contoh, akselerator dengan kapasitas 2048 GB (2 TB) memiliki bandwidth baca 600 MB/detik.
Bandwidth baca maksimum	40 GB/detik (320 Gbps) Jika skenario bisnis Anda memerlukan bandwidth baca yang lebih tinggi, ajukan tiket untuk meminta peningkatan.
Latensi baca minimum untuk satu permintaan 128 KB	<10 ms
Interval penskalaan	Dapat dimodifikasi sekali per jam
Metode penskalaan	Penskalaan manual melalui konsol
Kebijakan penggantian cache	Kebijakan penggantian cache Least Recently Used (LRU) digunakan. Kebijakan LRU memastikan bahwa data yang sering diakses dipertahankan, sementara data yang tidak diakses untuk waktu lama diprioritaskan untuk dihapus. Ini memungkinkan penggunaan ruang cache secara efisien.

Penagihan

Ketika Anda menggunakan Akselerator OSS, Anda dikenakan biaya berdasarkan kapasitas akselerator yang dikonfigurasi dan durasi penggunaannya. Untuk informasi lebih lanjut, lihat Pricing Akselerator OSS.
Ketika Anda membaca atau menulis data di OSS melalui nama domain akselerasi, biaya permintaan OSS dikenakan bahkan jika tidak ada pengambilan asal yang terjadi.

Langkah berikutnya

Untuk informasi lebih lanjut tentang cara membuat Akselerator OSS dan memodifikasi kapasitasnya, lihat Buat, modifikasi, dan hapus akselerator.
Untuk informasi lebih lanjut tentang cara mengonfigurasi dan menggunakan Akselerator OSS dengan alat OSS umum dan SDK OSS, lihat Gunakan akselerator.
Untuk informasi lebih lanjut tentang perbedaan performa antara menggunakan endpoint wilayah internal OSS dan menggunakan Akselerator OSS dalam skenario bisnis tertentu, lihat Metrik performa.