Topik ini menjelaskan stabilitas dan batasan pada versi baru pengiriman data Object Storage Service (OSS).
Stabilitas
Data dibaca dari Simple Log Service
Item | Description |
Ketersediaan | Tersedia dengan tingkat ketersediaan tinggi. Jika pekerjaan pengiriman data OSS gagal membaca data dari Simple Log Service karena terjadi error pada Simple Log Service, pekerjaan tersebut akan dicoba ulang minimal 10 kali. Jika tetap gagal, error dilaporkan dan pekerjaan dimulai ulang. |
Penulisan data ke OSS
Item | Description |
Concurrency |
Instans pengiriman data dapat dibuat berdasarkan shard, dan resource yang digunakan untuk pengiriman data dapat diskalakan. Jika sebuah shard di Logstore sumber melakukan split, jumlah instans pengiriman secara otomatis diskalakan dalam hitungan detik untuk mempercepat ekspor data. |
Konsistensi data | Resource yang diperlukan diskalakan berdasarkan consumer groups yang ditentukan untuk memastikan konsistensi data. Offset hanya dikirim setelah data berhasil dikirim ke OSS. Hal ini membantu memastikan bahwa seluruh data dikirim ke OSS. |
Pemantauan dan peringatan
Item | Description |
Pemantauan dan peringatan | Anda dapat memantau pekerjaan pengiriman data secara real time berdasarkan metrik seperti latensi dan traffic pekerjaan pengiriman data. Anda dapat mengonfigurasi peringatan kustom sesuai kebutuhan bisnis untuk melaporkan exception yang terjadi selama pengiriman data sedini mungkin. Misalnya, jika instans pengiriman data yang digunakan untuk mengekspor data tidak mencukupi atau kuota jaringan terlampaui, peringatan akan dipicu. Untuk informasi lebih lanjut, lihat Konfigurasi aturan pemantauan peringatan untuk memantau pekerjaan pengiriman data versi baru OSS. |
Batasan
Network
Item | Description |
Jenis jaringan | Transfer data melalui jaringan internal Alibaba Cloud cepat dan stabil. |
Manajemen izin
Item | Description |
Otorisasi | Izin untuk mengirim data ke OSS dan mengakses data harus diberikan. Untuk informasi lebih lanjut, lihat Ikhtisar otorisasi. |
Enkripsi sisi server | Jika enkripsi sisi server diaktifkan, Anda harus memberikan izin tambahan kepada role Resource Access Management (RAM) yang terlibat. Untuk informasi lebih lanjut, lihat Dokumentasi konfigurasi OSS. |
Traffic baca
Item | Description |
Baca Trafik | Simple Log Service menetapkan batas atas traffic baca dalam satu Proyek dan satu shard. Untuk informasi lebih lanjut, lihat Baca dan tulis data. Jika batas terlampaui, Anda harus melakukan split shard atau mengajukan permohonan peningkatan batas pada Proyek Anda. Jika pekerjaan pengiriman data OSS gagal membaca data karena batas terlampaui, pekerjaan tersebut akan dicoba ulang minimal 10 kali. Jika tetap gagal, error dilaporkan dan pekerjaan dimulai ulang. |
Penulisan data ke OSS
Item | Description |
Instans konkuren | Jumlah instans konkuren harus sama dengan jumlah shard. Shard tersebut mencakup shard readwrite dan shard readonly. |
Pengiriman data |
|
Partisi waktu | Dalam satu pekerjaan pengiriman data, data dikirim ke OSS melalui beberapa operasi pengiriman. Setiap operasi pengiriman data menyimpan data ke objek OSS yang berbeda. Path objek OSS ditentukan oleh titik waktu paling awal saat Simple Log Service menerima data yang dikirim ke objek OSS tersebut. Titik waktu ini ditentukan oleh receive_time. |
Format file | Setelah data dikirim ke OSS, data dapat disimpan dalam salah satu format berikut: CSV, JSON, Parquet, dan ORC. Untuk informasi lebih lanjut, lihat Format JSON, Format CSV, Format Parquet, dan Format ORC. |
Metode kompresi | Metode kompresi berikut didukung: snappy, gzip, dan zstd. Tidak melakukan kompresi juga didukung. |
Bucket OSS |
|
Item konfigurasi
Item | Description |
Shipping latency |
Nilai shipping latency yang dikonfigurasi tidak boleh melebihi periode retensi data Logstore sumber. Kami menyarankan menetapkan buffer untuk mencegah kehilangan data. Misalnya, jika periode retensi data Logstore adalah 30 hari, atur shipping latency menjadi 25 hari atau kurang. |
Manajemen pengiriman data
Item | Description |
Pause of a data shipping job | Jika Anda pause pekerjaan pengiriman data, pekerjaan tersebut mencatat cursor dari log terakhir yang dikirim. Setelah Anda resume pekerjaan, pengiriman log dilanjutkan dari cursor yang telah dicatat. Simple Log Service menerapkan mekanisme berikut saat Anda pause pekerjaan pengiriman data:
|