Sinkronisasi data antar klaster AnalyticDB for MySQL 3.0 - Data Transmission Service

Topik ini menjelaskan cara menggunakan Data Transmission Service (DTS) untuk menyinkronkan data antara klaster AnalyticDB for MySQL 3.0.

Prasyarat

Anda telah membuat klaster AnalyticDB for MySQL 3.0 tujuan dengan kapasitas penyimpanan lebih besar daripada kapasitas penyimpanan yang digunakan oleh klaster sumber AnalyticDB for MySQL 3.0.
Fitur change data capture (CDC) telah diaktifkan untuk klaster sumber AnalyticDB for MySQL 3.0, dan binary log diaktifkan untuk tabel yang ingin Anda sinkronkan.
Catatan
- Jika klaster AnalyticDB for MySQL 3.0 memiliki versi engine sebelum 3.2.1.0, Anda harus terlebih dahulu melakukan upgrade.
- Tabel XUANWU_V2 tidak mendukung pengaktifan binary log. Oleh karena itu, Anda tidak dapat menggunakan DTS untuk menyinkronkan data atau melakukan migrasi inkremental untuk tabel XUANWU_V2 antar klaster AnalyticDB for MySQL.

Batasan

Catatan

Saat sinkronisasi skema, DTS tidak menyinkronkan foreign key dari database sumber ke database tujuan.
Selama sinkronisasi data penuh awal dan sinkronisasi data inkremental, DTS secara sementara menonaktifkan pemeriksaan constraint dan operasi kaskade foreign key pada tingkat sesi. Jika Anda melakukan operasi cascade update atau delete pada database sumber saat tugas sedang berjalan, ketidakkonsistenan data dapat terjadi.
Saat sinkronisasi skema, DTS tidak mendukung penyinkronan materialized view ke instans AnalyticDB for MySQL tujuan. Jika Anda perlu menggunakan materialized view, buatlah secara manual di instans tujuan setelah sinkronisasi selesai.

Type	Description
Batasan database sumber	Kebutuhan bandwidth: Server yang meng-host database sumber harus memiliki outbound bandwidth yang mencukupi. Jika tidak, kecepatan sinkronisasi data akan terpengaruh. Klaster AnalyticDB for MySQL 3.0 harus memiliki versi engine 3.2.1.0 atau lebih baru. Tabel yang akan disinkronkan harus memiliki primary key kustom yang unik. Jika tidak, database tujuan mungkin berisi data duplikat. Catatan Jika primary key tabel yang akan disinkronkan adalah `__adb_auto_id__` yang di-generate secara otomatis, DTS tidak dapat menyinkronkan data dari tabel tersebut. Selama sinkronisasi skema dan sinkronisasi data penuh, jangan lakukan operasi DDL yang mengubah skema database atau tabel. Jika dilakukan, instansi sinkronisasi data akan gagal.
Batasan lainnya	Sebuah instansi sinkronisasi data hanya dapat menyinkronkan satu tabel. Untuk menyinkronkan beberapa tabel, Anda harus membuat beberapa instansi sinkronisasi data. Database tujuan harus memiliki primary key kustom. Atau, pada langkah Configurations for Databases, Tables, and Columns, konfigurasikan Primary Key Column. Jika tidak, sinkronisasi mungkin gagal. Verifikasi data tidak didukung. Anda tidak dapat memodifikasi objek sinkronisasi setelah tugas dikonfigurasi. Jika sebuah instansi sinkronisasi data ditangguhkan lebih dari satu hari, binary log klaster sumber AnalyticDB for MySQL 3.0 mungkin kedaluwarsa. Akibatnya, instansi tersebut mungkin tidak dapat dipulihkan. Jangan nonaktifkan binary log untuk klaster sumber AnalyticDB for MySQL 3.0 selama instansi sinkronisasi data sedang berjalan. Jika dilakukan, instansi akan gagal dan tidak dapat dipulihkan. Jika instansi gagal karena binary log dinonaktifkan, Anda harus membuat instansi baru untuk mengatasi masalah tersebut. Jika sebuah node dalam klaster AnalyticDB for MySQL 3.0 melebihi penggunaan disk space 80%, instansi DTS mungkin mengalami penundaan. Kami menyarankan agar Anda memperkirakan ruang penyimpanan yang dibutuhkan berdasarkan objek yang akan disinkronkan dan memastikan klaster tujuan memiliki ruang penyimpanan yang cukup. Jika klaster tujuan AnalyticDB for MySQL 3.0 sedang dibackup saat instansi DTS berjalan, instansi tersebut akan gagal. Sinkronisasi data penuh awal melibatkan operasi INSERT konkuren, yang dapat menyebabkan fragmentasi tabel di database tujuan. Akibatnya, setelah sinkronisasi data penuh awal selesai, tabel di database tujuan akan menempati ruang penyimpanan lebih besar daripada di instans sumber. Selama sinkronisasi data penuh awal, DTS mengonsumsi resource baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Kami menyarankan agar Anda mengevaluasi kinerja database sumber dan tujuan sebelum memulai serta menjalankan sinkronisasi data selama jam sepi, misalnya saat utilisasi CPU kedua database berada di bawah 30%. Ketika database tujuan adalah instans AnalyticDB for MySQL, DTS hanya mendukung penulisan tipe data yang secara native didukung oleh database tersebut. Ini termasuk tipe data dasar dan tipe data kompleks seperti ARRAY, MAP, dan JSON. Tipe lain seperti MULTIVALUE tidak didukung. DTS mengaktifkan fitur heartbeat pada klaster sumber AnalyticDB for MySQL V3.0 yang menulis event heartbeat ke binary log. Fitur ini mencegah latensi ketika tidak ada aktivitas tulis pada sumber. Oleh karena itu, entri `heartbeat event` yang Anda amati di binary log merupakan perilaku yang diharapkan. Catatan Fitur ini hanya tersedia pada versi baru klaster AnalyticDB for MySQL V3.0. Jika suatu tugas gagal, staf dukungan DTS akan berusaha memulihkannya dalam waktu delapan jam. Selama pemulihan, mereka mungkin merestart tugas atau menyesuaikan parameternya. Catatan Hanya parameter tugas DTS yang dimodifikasi—bukan parameter database. Parameter yang mungkin disesuaikan termasuk yang tercantum dalam Modify instance parameters.

Penagihan

Jenis sinkronisasi	Harga
Sinkronisasi skema dan sinkronisasi data penuh	Gratis.
Sinkronisasi data inkremental	Dikenai biaya. Untuk informasi selengkapnya, lihat Billing overview.

Operasi SQL yang didukung

Jenis operasi	SQL statement
DML	INSERT, UPDATE, DELETE Catatan Ketika data ditulis ke instans AnalyticDB for MySQL 3.0, pernyataan UPDATE secara otomatis dikonversi menjadi pernyataan REPLACE INTO. Jika pernyataan UPDATE menargetkan primary key, pernyataan tersebut dikonversi menjadi pernyataan DELETE+INSERT.
DDL	ADD COLUMN, DROP COLUMN

Izin akun

Database	Izin yang diperlukan	Pengaturan akun
Klaster sumber AnalyticDB for MySQL 3.0	Izin baca pada tabel yang akan disinkronkan.	Buat akun database
Klaster tujuan AnalyticDB for MySQL 3.0	Izin baca dan tulis pada database tujuan.	Buat akun database

Prosedur

Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:
Dari Konsol DTS
1. Login ke Konsol Data Transmission Service (DTS).
2. Di panel navigasi sebelah kiri, klik Data Synchronization.
3. Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.
Dari Konsol DMS

Catatan
Operasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Simple mode dan Customize the layout and style of the DMS interface.
1. Login ke Data Management (DMS).
2. Di bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Synchronization.
3. Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.
Klik Create Task untuk membuka halaman konfigurasi tugas.

Konfigurasikan database sumber dan tujuan.

Kategori	Parameter	Deskripsi
N/A	Task Name	DTS secara otomatis menghasilkan nama tugas. Kami menyarankan agar Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tersebut tidak harus unik.
Source Database	Select Existing Connection	Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, item konfigurasi ini bernama Select a DMS database instance.. Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan informasi database berikut secara manual.
	Database Type	Pilih AnalyticDB for MySQL 3.0.
	Access Method	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat klaster sumber AnalyticDB for MySQL 3.0 berada.
	Replicate Data Across Alibaba Cloud Accounts	Contoh ini menggunakan instans database yang dimiliki oleh Akun Alibaba Cloud saat ini. Pilih No.
	Instance ID	Pilih ID klaster sumber AnalyticDB for MySQL 3.0.
	Database Account	Masukkan akun database untuk klaster sumber AnalyticDB for MySQL 3.0. Untuk informasi tentang izin yang diperlukan, lihat Izin akun.
	Database Password	Masukkan password yang sesuai dengan akun database.
Destination Database	Select Existing Connection	Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, item konfigurasi ini bernama Select a DMS database instance.. Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan informasi database berikut secara manual.
	Database Type	Pilih AnalyticDB for MySQL 3.0.
	Access Method	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat klaster tujuan AnalyticDB for MySQL 3.0 berada.
	Instance ID	Pilih ID klaster tujuan AnalyticDB for MySQL 3.0.
	Database Account	Masukkan akun database untuk klaster tujuan AnalyticDB for MySQL 3.0. Untuk informasi tentang izin yang diperlukan, lihat Izin akun.
	Database Password	Masukkan password yang sesuai dengan akun database.

Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.

Catatan
Pastikan Blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Add the IP address CIDR blocks of DTS servers to a whitelist.

Konfigurasikan objek tugas.

Di halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.

Parameter	Deskripsi
Synchronization Types	Incremental Data Synchronization dipilih. Secara default, Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah pemeriksaan awal selesai, DTS melakukan sinkronisasi data penuh dari objek yang dipilih dari instans sumber ke klaster tujuan. Ini berfungsi sebagai garis dasar data untuk sinkronisasi data inkremental berikutnya.
DDL and DML Operations to Be Synchronized	Pilih operasi tingkat instans yang akan disinkronkan selama sinkronisasi data inkremental. Catatan Untuk memilih operasi tingkat tabel, klik kanan objek sinkronisasi di daftar Selected Objects dan pilih operasi yang diinginkan di kotak dialog yang muncul.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama sudah ada di database tujuan. Jika tabel dengan nama yang sama tidak ada, pemeriksaan awal berhasil. Jika tabel dengan nama yang sama ada, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dimulai. Catatan Jika Anda tidak dapat menghapus atau mengganti nama tabel dengan nama yang sama di database tujuan, Anda dapat memetakannya ke nama tabel yang berbeda. Untuk informasi selengkapnya, lihat Map table and column names. Ignore Errors and Proceed: Melewati pemeriksaan nama tabel duplikat di database tujuan. Peringatan Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda. Misalnya: Jika skema tabel sama dan catatan di database tujuan memiliki nilai primary key atau unique key yang sama dengan catatan di database sumber: Selama sinkronisasi penuh, DTS mempertahankan catatan di klaster tujuan. Catatan yang sesuai dari database sumber tidak disinkronkan. Selama sinkronisasi inkremental, catatan dari database sumber menimpa catatan di database tujuan. Jika skema tabel berbeda, sinkronisasi data awal mungkin gagal. Hal ini dapat mengakibatkan hanya data kolom parsial yang disinkronkan atau kegagalan sinkronisasi total. Lakukan dengan hati-hati.
Source Objects	Di kotak Source Objects, pilih tabel yang akan disinkronkan dan klik untuk memindahkannya ke kotak Selected Objects. Penting Anda hanya dapat memilih satu tabel.
Selected Objects	Untuk mengatur nama objek sinkronisasi di instans tujuan atau menentukan objek mana yang menerima data, klik kanan objek sinkronisasi di kotak Selected Objects dan modifikasi. Untuk informasi selengkapnya, lihat Map table and column names. Untuk menghapus objek sinkronisasi, klik objek tersebut di kotak Selected Objects lalu klik untuk memindahkannya ke kotak Source Objects. Catatan Jika Anda menggunakan fitur pemetaan nama objek, sinkronisasi objek lain yang bergantung pada objek yang dipetakan mungkin gagal. Untuk mengatur klausa WHERE guna memfilter data, klik kanan tabel yang akan disinkronkan di kotak Selected Objects. Di kotak dialog yang muncul, atur kondisi filter. Untuk informasi selengkapnya, lihat Set filter conditions. Untuk memilih operasi SQL untuk sinkronisasi inkremental, klik kanan objek sinkronisasi di kotak Selected Objects dan pilih operasi yang diinginkan dari kotak dialog yang muncul.

Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

Parameter	Deskripsi
Dedicated Cluster for Task Scheduling	Secara default, DTS menjadwalkan tugas pada klaster bersama, dan Anda tidak perlu memilih klaster. Untuk kinerja yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas sinkronisasi DTS. Untuk informasi selengkapnya, lihat What is a DTS dedicated cluster?.
Retry Time for Failed Connections	Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba koneksi ulang. Durasi retry default adalah 720 menit. Anda juga dapat menentukan durasi retry kustom dari 10 hingga 1.440 menit. Kami menyarankan agar Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal. Catatan Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu retry jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, durasi yang lebih pendek yaitu 30 menit akan digunakan untuk keduanya. Karena DTS membebankan biaya berdasarkan runtime tugas selama periode retry koneksi, kami menyarankan agar Anda menyesuaikan durasi retry sesuai kebutuhan bisnis atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues	Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-konektivitas lainnya pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS melaporkan error dan segera memulai operasi retry berkelanjutan. Durasi retry default adalah 10 menit. Anda juga dapat menyesuaikan durasi retry dalam rentang 1 hingga 1.440 menit. Kami menyarankan agar Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi retry yang ditetapkan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal. Penting Nilai untuk Retry Time for Other Issues harus lebih kecil daripada nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Selama tahap sinkronisasi penuh, DTS mengonsumsi resource baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s). Catatan Item konfigurasi ini hanya tersedia ketika Synchronization Types diatur ke Full Data Synchronization. Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi berjalan.
Enable Throttling for Incremental Data Synchronization	Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Anda dapat memilih tag lingkungan untuk mengidentifikasi instans sesuai kebutuhan Anda. Untuk tutorial ini, tidak diperlukan tag.
Configure ETL	Pilih apakah akan mengaktifkan fitur extract, transform, and load (ETL). Untuk informasi selengkapnya, lihat What is ETL? Nilai yang valid: Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Configure ETL in a data migration or data synchronization task. No: Menonaktifkan fitur ETL.
Monitoring and Alerting	Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi akan dikirim ke kontak peringatan. No: Tidak ada peringatan yang dikonfigurasi. Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan menentukan alert notification. Untuk informasi selengkapnya, lihat Configure monitoring and alerting during task configuration.

Klik Next: Data Validation untuk mengonfigurasi tugas validasi data.

Jika Anda ingin menggunakan fitur validasi data, lihat Configure data validation untuk petunjuk konfigurasi.
Opsional: Setelah konfigurasi sebelumnya selesai, klik Next: Configure Database and Table Fields untuk mengonfigurasi informasi Type, Primary Key Column, Distribution Key, dan kunci partisi (Partition Key, Partitioning Rules, dan Partition Lifecycle) untuk tabel yang akan disinkronkan di database tujuan.
Catatan
- Langkah ini hanya tersedia jika Anda memilih Schema Synchronization untuk parameter Synchronization Types. Anda dapat mengatur Definition Status ke All untuk memodifikasi field.
- Untuk Primary Key Column, Anda dapat memilih beberapa kolom untuk membentuk primary key komposit. Anda kemudian harus memilih satu atau beberapa kolom dari Primary Key Column untuk berfungsi sebagai Distribution Key dan Partition Key. Untuk informasi selengkapnya, lihat CREATE TABLE.

Simpan tugas dan jalankan pemeriksaan awal.
- Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di bubble.
- Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan
- Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Pekerjaan hanya dapat dimulai setelah semua item pemeriksaan awal lolos.
- Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan kembali pemeriksaan awal.
- Jika pemeriksaan awal mengembalikan peringatan:
  
  Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti petunjuk untuk memperbaiki masalah, lalu jalankan kembali pemeriksaan awal.
  
  Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

Beli instansi sinkronisasi data.

Ketika Success Rate mencapai 100%, klik Next: Purchase Instance.

Di halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instansi sinkronisasi data. Tabel berikut menjelaskan parameter tersebut secara rinci.

Kategori	Parameter	Deskripsi
New Instance Class	Billing Method	Subscription: Anda membayar saat membuat instans. Ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya dibandingkan pay-as-you-go. Semakin lama durasi langganan, semakin tinggi diskonnya. Pay-as-you-go: Anda dikenai biaya per jam. Ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah digunakan untuk menghemat biaya.
	Resource Group Configuration	Kelompok sumber daya tempat instans tersebut berada. Default-nya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat What is Resource Management?.
	Link Specification	DTS menyediakan spesifikasi sinkronisasi dengan tingkat kinerja berbeda. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Data synchronization link specifications.
	Subscription Duration	Dalam mode subscription, pilih durasi dan jumlah untuk instans langganan. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan, atau langganan tahunan selama 1, 2, 3, atau 5 tahun. Catatan Opsi ini hanya tersedia ketika metode penagihan adalah Subscription.

Setelah menyelesaikan konfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
Klik Buy and Start. Di kotak dialog OK, klik OK.

Anda dapat melihat progres tugas di halaman Data Synchronization.