Topik ini menjelaskan stabilitas dan batasan dari versi baru pengiriman data MaxCompute.
Stabilitas
Membaca dari Simple Log Service
Stabilitas | Deskripsi |
Ketersediaan | Ketersediaan tinggi. Jika terjadi kesalahan di Simple Log Service dan data tidak dapat dibaca, tugas pengiriman data MaxCompute akan mencoba setidaknya 10 kali secara internal. Jika tugas tetap gagal, kesalahan dilaporkan dan tugas dimulai ulang. |
Menulis ke MaxCompute
Stabilitas | Deskripsi |
Konkurensi | Partisi dibuat berdasarkan Simple Log Service shard dan instance pengiriman dibuat. Ini mendukung skala keluar dengan cepat. Jika sebuah Logstore sumber di Simple Log Service melakukan pemisahan shard, instance pengiriman dapat diperluas dalam hitungan detik untuk mempercepat ekspor data. |
Tidak ada kehilangan data | Tugas pengiriman data MaxCompute diperluas berdasarkan kelompok konsumen untuk memastikan konsistensi. Offset hanya dikirimkan setelah data dikirimkan. Ini memastikan bahwa offset tidak dikirimkan sebelum data ditulis ke MaxCompute, mencegah kehilangan data. |
Perubahan skema | Jika Anda menambahkan kolom baru ke tabel MaxCompute selama pengiriman data, kolom baru hanya akan ditulis ke partisi baru. Kolom tersebut tidak akan ditulis ke partisi lama atau partisi saat ini. Catatan Karena batasan MaxCompute, Anda tidak dapat menyisipkan, memperbarui, atau menghapus kolom, atau mengubah urutan kolom dalam skema tabel selama pengiriman data. Jika Anda melakukan operasi ini, tugas pengiriman data menjadi tidak normal dan tidak dapat dipulihkan. Untuk informasi lebih lanjut, lihat Batasan MaxCompute. |
Menangani data kotor
Jenis kesalahan | Dianggap sebagai catatan gagal | Deskripsi |
Kesalahan partisi | Ya | Skenario umum termasuk partisi tidak valid atau kolom kunci partisi yang tidak ada. Catatan data tidak ditulis ke MaxCompute. |
Kolom data tidak valid | Tidak | Skema umum termasuk ketidakcocokan tipe data atau kegagalan konversi tipe. Data di kolom ini tidak ditulis ke MaxCompute. Data di kolom lainnya ditulis ke MaxCompute seperti biasa. |
Kolom data terlalu panjang | Tidak | Skema umum adalah bahwa data melebihi batas panjang tipe string atau varchar. Data di kolom ini dipotong lalu ditulis ke MaxCompute. Data di kolom lainnya ditulis ke MaxCompute seperti biasa. |
Pemantauan dan peringatan
Stabilitas | Deskripsi |
Pemantauan dan peringatan | Pengiriman data menyediakan pemantauan komprehensif untuk melacak metrik seperti latensi dan lalu lintas tugas pengiriman secara real-time. Anda dapat mengonfigurasi peringatan khusus berdasarkan kebutuhan bisnis Anda untuk mendeteksi masalah pengiriman dengan cepat, seperti instans ekspor yang tidak mencukupi atau batas kuota jaringan. Untuk informasi lebih lanjut, lihat Atur peringatan untuk tugas pengiriman data MaxCompute (versi baru). |
Memulai ulang tugas
Stabilitas | Deskripsi |
Terlalu banyak partisi | Saat tugas dimulai ulang, jika ada terlalu banyak partisi dan operasi tulis tidak selesai dalam 5 menit, kemungkinan terjadi duplikasi data. |
Kegagalan penulisan data | Saat tugas dimulai ulang dan gagal menulis data ke MaxCompute karena kesalahan otorisasi atau jaringan, kemungkinan terjadi duplikasi data sebagian. |
Batasan
Jaringan
Batas | Deskripsi |
Jaringan untuk pengiriman intra-region | Saat mengirimkan data dalam wilayah yang sama, data ditransmisikan melalui jaringan internal Alibaba Cloud. Ini memastikan stabilitas dan kecepatan jaringan yang lebih baik. |
Lalu lintas baca
Batas | Deskripsi |
Lalu lintas baca | Batas lalu lintas maksimum ada untuk satu proyek dan satu shard. Untuk informasi lebih lanjut, lihat Pembacaan dan penulisan data. Jika batas lalu lintas maksimum terlampaui, pisahkan shard atau ajukan permintaan untuk meningkatkan batas lalu lintas baca untuk proyek. Melebihi batas menyebabkan tugas pengiriman data MaxCompute gagal saat membaca data. Tugas mencoba setidaknya 10 kali secara internal. Jika masih gagal, kesalahan dilaporkan dan tugas dimulai ulang. |
Menulis ke MaxCompute
Batas | Deskripsi |
Instans konkuren | Jumlah maksimum instans ekspor konkuren adalah 64. Jika jumlah Simple Log Service shard melebihi 64, beberapa shard digabungkan menjadi satu instans untuk diekspor. Sistem mencoba menjaga jumlah shard di setiap instans tetap sama. |
Ambang batas tulis |
Penting Jika Anda melebihi batas tulis MaxCompute, menulis data ke MaxCompute menjadi tidak stabil dan memicu pembatasan pada sisi MaxCompute. Ini dapat menyebabkan kesalahan FlowExceeded atau SlotExceed. Hubungi insinyur piket MaxCompute untuk menyelesaikan masalah. |
Larangan modifikasi skema tabel | Pengiriman data MaxCompute (versi baru) menggunakan penulisan aliran MaxCompute. Selama penulisan aliran ke MaxCompute, Layanan Tunnel Lindorm melarang modifikasi skema seperti menyisipkan, memperbarui, atau menghapus kolom, atau mengubah urutan kolom dalam tabel target. Untuk informasi lebih lanjut, lihat Ikhtisar Layanan Tunnel Lindorm. Karena pembatasan modifikasi skema ini, Anda tidak dapat menggunakan pengiriman data MaxCompute (versi baru) dan pengiriman data MaxCompute (versi lama) untuk menulis data ke tabel MaxCompute yang sama secara bersamaan. |
Tabel khusus yang tidak didukung | Anda tidak dapat menulis data ke tabel eksternal MaxCompute, tabel transaksional, atau tabel terkluster. |
Perubahan skema tabel | Jika skema tabel MaxCompute Anda berubah, Anda harus menjeda tugas pengiriman data MaxCompute selama 20 menit lalu memulainya kembali agar perubahan skema berlaku. |
Waktu mulai |
Catatan Karena batasan slot dan queries per second (QPS) MaxCompute, pengiriman data historis dengan mudah melebihi ambang batas tulis MaxCompute. Oleh karena itu, fitur ini tidak lagi didukung. |
Manajemen izin
Batas | Deskripsi |
Otorisasi tulis | Otorisasi tulis MaxCompute mendukung Pengguna Manajemen Akses Sumber Daya (RAM) dan Peran RAM. Anda harus melakukan operasi terpisah di MaxCompute. |
Tipe data
Kolom reguler
Tipe
Contoh
Deskripsi
string
"hello"
Panjang maksimum: 8 MB.
datetime
"2021-12-22 05:00:00"
Data dalam Simple Log Service harus memenuhi persyaratan format data MaxCompute.
date
"2021-12-22"
Data dalam Simple Log Service harus memenuhi persyaratan format data MaxCompute.
timestamp
1648544867
Precision milidetik atau detik.
decimal
1.2
Data dalam Simple Log Service harus memenuhi persyaratan format data MaxCompute.
char
"hello"
Panjang maksimum: 255 byte.
varchar
"hello"
Panjang maksimum: 65.535 byte.
binary
"hello"
Panjang maksimum: 8 MB.
bigint
123
Mendukung hingga int64.
boolean
1
1, t, T, true, TRUE, dan True diurai sebagai True.
0, f, F, false, FALSE, dan False diurai sebagai False.
double
1.2
Mendukung hingga bilangan titik mengambang 64-bit.
float
1.2
Mendukung hingga bilangan titik mengambang 32-bit.
integer
123
Mendukung hingga int32.
smallint
12
Mendukung hingga int16.
tinyint
12
Mendukung hingga int8.
Kolom kunci partisi
Batas
Deskripsi
Kolom kunci partisi
Diperlakukan sebagai string. Harus memenuhi persyaratan format untuk kolom kunci partisi MaxCompute.
Mengonfigurasi bidang log selain
__partition_time__atau__receive_time__Jika Anda mengonfigurasi bidang log selain
__partition_time__atau__receive_time__untuk kolom kunci partisi, kinerja pengiriman data mungkin terpengaruh.
Kelola Pengiriman
Batas | Deskripsi |
Menjeda tugas pengiriman data | Tugas pengiriman data mencatat kursor log dari pengiriman terakhir. Saat tugas dilanjutkan, pengiriman akan dilanjutkan dari kursor yang telah dicatat. Mekanisme berikut berlaku saat Anda menjeda tugas pengiriman data.
|
Daftar putih IP MaxCompute
Batasan | Deskripsi |
Mengaktifkan daftar putih dalam manajemen proyek MaxCompute, seperti daftar putih IP jaringan klasik, dapat menyebabkan kegagalan pengiriman data | Anda dapat menjalankan perintah di MaxCompute untuk menyelesaikan kegagalan pengiriman data yang disebabkan oleh daftar putih.
Untuk informasi lebih lanjut, lihat Memecahkan masalah kegagalan pengiriman MaxCompute yang disebabkan oleh daftar putih. |