DataWorks:Throttle batch synchronization

Stage 1: Waiting for scheduling resources

Symptoms:

• Log tugas menunjukkan bahwa tugas sedang menunggu gateway.

• Halaman properti instans menunjukkan waktu tunggu sumber daya yang lama.

Cause: Scheduling resource group telah mencapai batas maksimum jumlah tugasnya. Tugas baru akan menunggu hingga tugas yang sedang berjalan selesai dan melepaskan sumber daya.

Fix: Di Konsol DataWorks, buka halaman Operation Analysis untuk melihat tugas mana saja yang sedang menggunakan sumber daya saat tugas saat ini menunggu.

Jika Anda menggunakan shared resource groups for scheduling, migrasikan tugas Anda ke exclusive resource group atau Serverless resource group.

Stage 2: Waiting for execution resources

Symptom: Log tugas menunjukkan wait.

Cause: Data integration resource group tidak memiliki slot konkurensi tersisa yang cukup untuk tugas tersebut.

Contoh: sebuah resource group mendukung maksimal 8 slot konkurensi. Jika dua tugas berjalan masing-masing dengan konkurensi 3, mereka menggunakan 6 slot, menyisakan 2 slot tersedia. Tugas ketiga yang memerlukan 3 slot konkurensi harus menunggu.

Fix:

1. Buka halaman Operation Analysis untuk melihat tugas mana saja yang mengonsumsi sumber daya.

2. Periksa apakah ada tugas yang sedang berjalan namun macet atau tidak biasa lambat. Jika iya, hentikan atau selesaikan terlebih dahulu.

3. Jika tugas berjalan normal, tunggu hingga selesai dan melepaskan sumber daya.

4. Koordinasikan dengan pemilik tugas untuk mengurangi konkurensi tugas yang bersaing.

5. Kurangi konkurensi tugas saat ini dan ajukan ulang.

6. Perluas kapasitas resource group. Untuk informasi lebih lanjut, lihat Scaling operations.

Jumlah maksimum slot konkurensi bervariasi tergantung spesifikasi resource group. Untuk informasi lebih lanjut, lihat Performance metrics and billing.

Stage 3: Slow data reading (high WaitReaderTime)

Symptom: Log tugas menunjukkan run dengan kecepatan 0. Detail log menunjukkan nilai besar untuk WaitReaderTime, yang mengindikasikan tugas menunggu lama untuk menerima data dari sumber.

Causes:

• Split key tidak dikonfigurasi dengan benar, sehingga SQL pengambilan data berjalan lambat.

• Parameter where atau querySql tidak diindeks, sehingga menyebabkan full table scan.

• Database sumber sedang mengalami beban tinggi saat sinkronisasi.

• Ada masalah bandwidth atau latensi jaringan.

Kecepatan sinkronisasi melalui jaringan publik tidak dapat dijamin.

Fix:

• Indeks field yang digunakan untuk penyaringan data guna menghindari full table scan.

• Hindari atau kurangi fungsi kompleks dalam pernyataan pre-SQL atau post-SQL. Jika diperlukan, jalankan operasi tersebut di database sebelum sinkronisasi dimulai.

• Jika tabel sumber sangat besar, bagi tugas menjadi beberapa tugas yang lebih kecil.

• Periksa log untuk mengidentifikasi pernyataan SQL yang menjadi penghambat dan koordinasikan dengan administrator basis data Anda untuk menyelesaikannya.

• Periksa beban database sumber pada saat sinkronisasi.

Stage 4: Slow data writing (high WaitWriterTime)

Symptom: Log tugas menunjukkan run dengan kecepatan 0. Detail log menunjukkan nilai besar untuk WaitWriterTime, yang mengindikasikan tugas membutuhkan waktu lama untuk menulis ke tujuan.

Causes:

• Pernyataan preSql atau postSql dalam writer plug-in berjalan lambat.

• Database tujuan sedang mengalami beban tinggi saat sinkronisasi.

• Ada masalah bandwidth atau latensi jaringan.

Kecepatan sinkronisasi melalui jaringan publik tidak dapat dijamin.

Fix:

• Tinjau dan optimalkan pernyataan preSql dan postSql dalam konfigurasi writer plug-in.

• Periksa beban database tujuan pada saat sinkronisasi.

Stage 5: Non-zero speed but overall progress is slow

Symptom: Log tugas menunjukkan run dengan kecepatan bukan nol, tetapi pekerjaan sinkronisasi memakan waktu jauh lebih lama dari yang diharapkan.

Causes:

• Split key untuk tugas database relasional tidak dikonfigurasi atau salah konfigurasi, sehingga pengaturan konkurensi tidak efektif. Tugas berjalan dengan satu thread saja, bukan sesuai konkurensi yang dikonfigurasi.

• Pengaturan konkurensi terlalu rendah.

• Volume besar data kotor dihasilkan selama sinkronisasi.

• Kinerja database tidak mencukupi untuk menopang konkurensi yang dikonfigurasi.

• Ada masalah bandwidth atau latensi jaringan.

Kecepatan sinkronisasi melalui jaringan publik tidak dapat dijamin.

Fix:

1. Konfigurasikan split key dengan benar. Untuk langkah-langkah konfigurasi, lihat Configure a task in the codeless UI.

2. Tingkatkan konkurensi tugas. Dalam batas kuota konkurensi maksimum yang didukung oleh resource group, rencanakan konkurensi di seluruh tugas dan tingkatkan konkurensi tugas saat ini sesuai kebutuhan. Konfigurasikan konkurensi di antarmuka tanpa kode, atau atur langsung di editor kode. Untuk batasan resource group, lihat Performance metrics and billing. Untuk tugas terdistribusi, pastikan bahwa: konkurensi tugas ÷ jumlah mesin dalam resource group ≤ konkurensi maksimum per mesin

3. Tangani data kotor. Untuk informasi lebih lanjut, lihat Data Integration.

4. Gunakan jaringan pribadi untuk sinkronisasi cross-cloud atau cross-region. Untuk opsi konektivitas jaringan, lihat Network connectivity solutions.

5. Periksa beban database pada saat sinkronisasi.

Concurrency and CPU

Dalam exclusive resource group, rasio konkurensi terhadap vCPU adalah 1:0,5. Instance ECS dengan 4 vCPU dan 8 GiB memory menyediakan kuota konkurensi sebesar 8. Artinya:

• Maksimal 8 tugas sinkronisasi offline dengan konkurensi 1, atau

• Maksimal 4 tugas sinkronisasi offline dengan konkurensi 2.

Jika tugas yang baru diajukan memerlukan konkurensi lebih besar daripada kuota yang tersisa, tugas tersebut akan menunggu hingga tugas yang sedang berjalan selesai dan melepaskan sumber daya.

Concurrency and memory

Penggunaan memory per tugas dalam exclusive resource group mengikuti rumus berikut:

Min{768 + (concurrency - 1) × 256, 8029} MB

Timpa pengaturan ini di editor kode dengan menyetel path JSON $.setting.jvmOption.

"setting": {
    "errorLimit": {
        "record": "0"
    },
    "speed": {
        "throttle": false,
        "concurrent": 1
    },
    "jvmOption": "-Xms1024m -Xmx1024m"
}

Untuk menjaga stabilitas tugas, total memory yang digunakan oleh semua tugas yang sedang berjalan harus setidaknya 1 GB di bawah total memory semua mesin dalam resource group. Jika ambang batas ini terlampaui, Linux OOM Killer dapat menghentikan tugas secara paksa.

Jika Anda tidak menimpa pengaturan memory di editor kode, hanya batas kuota konkurensi yang berlaku saat merencanakan pengajuan tugas.

Writer plug-ins

Reader plug-ins