Sinkronisasi data dari MariaDB yang dikelola sendiri ke ApsaraDB RDS for MariaDB - Data Transmission Service

Layanan Transmisi Data (DTS) memungkinkan Anda menyinkronkan data dari database MariaDB yang dikelola sendiri ke instans ApsaraDB RDS for MariaDB secara real time.

Prasyarat

Buat instans tujuan ApsaraDB RDS for MariaDB. Untuk informasi selengkapnya, lihat Buat instans ApsaraDB RDS for MariaDB.
Instans tujuan ApsaraDB RDS for MariaDB harus memiliki kapasitas penyimpanan yang lebih besar daripada ruang yang digunakan oleh instans sumber MariaDB yang dikelola sendiri.

Batasan

Catatan

Selama sinkronisasi skema, DTS menyinkronkan kunci asing dari database sumber ke database tujuan.
Selama sinkronisasi data penuh dan sinkronisasi data inkremental, DTS menonaktifkan sementara pemeriksaan constraint dan operasi kaskade kunci asing pada tingkat sesi. Ketidakkonsistenan data dapat terjadi jika operasi pembaruan atau penghapusan kaskade dilakukan pada database sumber saat tugas sedang berjalan.

Type	Description
Batasan database sumber	Tabel yang Anda sinkronkan harus memiliki primary key atau unique constraint, dan kolom dalam key atau constraint tersebut harus berisi nilai unik. Jika tidak, data duplikat dapat muncul di database tujuan. Jika Anda menyinkronkan data pada level tabel dan perlu mengedit objek-objek tersebut, seperti memetakan nama kolom, satu tugas sinkronisasi mendukung maksimal 1.000 tabel. Jika melebihi batas ini, pengiriman tugas akan gagal. Dalam kasus ini, bagi tabel menjadi beberapa tugas atau konfigurasikan satu tugas untuk menyinkronkan seluruh database. Persyaratan binlog: Jika instans sumber adalah database MariaDB yang dikelola sendiri, Anda harus mengaktifkan binlog dan mengatur parameter `binlog_row_image` ke `full`. Jika tidak, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dapat dimulai. Untuk informasi lebih lanjut tentang cara mengonfigurasi parameter, lihat Konfigurasi parameter instans. DTS mensyaratkan agar binlog lokal database sumber dipertahankan minimal selama 7 hari. Jika periode retensi lebih pendek, DTS mungkin gagal memperoleh binlog. Hal ini dapat menyebabkan kegagalan tugas dan, dalam kasus ekstrem, menyebabkan ketidakkonsistenan atau kehilangan data. Masalah yang disebabkan oleh periode retensi binlog yang lebih pendek dari minimum yang disyaratkan tidak dicakup oleh Perjanjian Tingkat Layanan (SLA) DTS. Jangan menjalankan operasi DDL yang mengubah skema database atau tabel selama sinkronisasi skema atau sinkronisasi penuh. Jika dilakukan, tugas sinkronisasi akan gagal. Catatan Selama sinkronisasi penuh, DTS melakukan query ke database sumber. Hal ini membuat metadata lock yang dapat memblokir operasi DDL pada database sumber.
Batasan lainnya	Pastikan kolom sumber yang akan disinkronkan dan kolom tujuan tidak berisi kolom tak terlihat (invisible columns). Jika tidak, instans DTS mungkin gagal berjalan atau data dapat hilang. Untuk kompatibilitas terbaik, pastikan database sumber dan tujuan menjalankan versi yang sama, atau sinkronkan dari versi yang lebih lama ke versi yang lebih baru. Menyinkronkan dari versi yang lebih baru ke versi yang lebih lama dapat menyebabkan masalah kompatibilitas. Sebelum menyinkronkan data, evaluasi kinerja database sumber dan tujuan. Lakukan sinkronisasi data pada jam sepi. Fase inisialisasi data penuh mengonsumsi sumber daya baca dan tulis pada kedua database, sehingga meningkatkan beban database. Inisialisasi penuh melakukan operasi INSERT secara konkuren, yang dapat menyebabkan fragmentasi tabel di database tujuan. Akibatnya, instans tujuan menggunakan lebih banyak ruang tabel daripada instans sumber setelah inisialisasi penuh. Jika Anda menyinkronkan satu atau beberapa tabel alih-alih seluruh database, jangan gunakan alat seperti `pt-online-schema-change` untuk melakukan perubahan DDL online pada objek sumber selama sinkronisasi data. Hal ini akan menyebabkan tugas gagal. Anda dapat menggunakan Data Management (DMS) untuk melakukan operasi DDL online. Untuk informasi selengkapnya, lihat Lakukan operasi DDL tanpa lock. Untuk mencegah ketidakkonsistenan data, pastikan hanya DTS yang menulis data ke database tujuan selama sinkronisasi. Misalnya, jika aplikasi eksternal menulis data ke database tujuan saat Anda menggunakan DMS untuk melakukan perubahan DDL online, kehilangan data dapat terjadi di database tujuan. Jika operasi penulisan DDL ke database tujuan gagal, tugas DTS tetap berjalan. Anda harus memeriksa log tugas untuk melihat pernyataan DDL yang gagal. Untuk informasi lebih lanjut tentang cara melihat log tugas, lihat Lihat log tugas. Jika suatu tugas gagal, staf dukungan DTS akan mencoba memulihkannya dalam waktu delapan jam. Selama pemulihan, mereka mungkin merestart tugas atau menyesuaikan parameternya. Catatan Hanya parameter tugas DTS yang dimodifikasi—bukan parameter database. Parameter yang mungkin disesuaikan termasuk yang tercantum dalam Modifikasi parameter instans.

Penagihan

Jenis sinkronisasi	Harga
Sinkronisasi skema dan sinkronisasi data penuh	Gratis.
Sinkronisasi data inkremental	Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan.

Topologi sinkronisasi yang didukung

Sinkronisasi satu arah satu-ke-satu
Sinkronisasi satu arah satu-ke-banyak
Sinkronisasi satu arah kaskade
Sinkronisasi satu arah banyak-ke-satu
Sinkronisasi dua arah satu-ke-satu

Untuk informasi selengkapnya tentang topologi sinkronisasi yang didukung, lihat Topologi sinkronisasi data.

Operasi SQL yang didukung

Jenis operasi	Pernyataan SQL
DML	INSERT, UPDATE, DELETE
DDL	ALTER TABLE, ALTER VIEW CREATE FUNCTION, CREATE INDEX, CREATE PROCEDURE, CREATE TABLE, CREATE VIEW DROP INDEX, DROP TABLE RENAME TABLE Penting Operasi RENAME TABLE dapat menyebabkan ketidakkonsistenan data. Misalnya, jika objek sinkronisasi adalah satu tabel dan Anda mengganti nama tabel ini di instans sumber selama sinkronisasi, data tabel ini tidak akan disinkronkan ke database tujuan. Untuk mencegah masalah ini, pilih seluruh database tempat tabel tersebut berada sebagai objek sinkronisasi. Pastikan database tempat tabel berada sebelum dan sesudah operasi RENAME TABLE termasuk dalam objek sinkronisasi. TRUNCATE TABLE

Izin akun database

Database	Izin yang diperlukan
MariaDB yang dikelola sendiri sumber	Izin REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW, dan SELECT.
Tujuan ApsaraDB RDS for MariaDB	Izin baca dan tulis.

Untuk informasi tentang cara mengelola akun untuk instans MariaDB yang dikelola sendiri, lihat CREATE USER dan GRANT.
Untuk informasi tentang cara mengelola akun untuk instans ApsaraDB RDS for MariaDB, lihat Buat akun dan Ubah atau atur ulang izin akun.

Prosedur

Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:
Dari Konsol DTS
1. Login ke Konsol Data Transmission Service (DTS).
2. Di panel navigasi kiri, klik Data Synchronization.
3. Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.
Dari Konsol DMS

Catatan
Operasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Mode sederhana dan Sesuaikan tata letak dan gaya antarmuka DMS.
1. Login ke Data Management (DMS).
2. Di bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Synchronization.
3. Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.
Klik Create Task untuk membuka halaman konfigurasi tugas.
Opsi: Di pojok kanan atas halaman, klik New Configuration Page.
Catatan
- Jika tombol di pojok kanan atas adalah Back to Previous Version, Anda dapat melewati langkah ini.
- Halaman konfigurasi baru dan lama memiliki parameter yang berbeda. Kami menyarankan Anda menggunakan halaman konfigurasi baru.

Konfigurasikan database sumber dan tujuan.

Peringatan

Setelah memilih instans sumber dan tujuan, baca dengan cermat batasan yang ditampilkan di bagian atas halaman. Jika Anda tidak mengikuti batasan tersebut, tugas mungkin gagal atau terjadi ketidakkonsistenan data.

Kategori	Parameter	Deskripsi
N/A	Task Name	DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tersebut tidak harus unik.
Source Database	Select Existing Connection	Untuk tutorial ini, Anda tidak perlu memilih instans yang sudah ada. Konfigurasikan informasi database di kolom di bawah.
	Database Type	Pilih MariaDB.
	Connection Type	Untuk tutorial ini, pilih Self-managed Database on ECS.
	Instance Region	Pilih wilayah tempat instans ECS berada.
	Cross-account	Tutorial ini menunjukkan sinkronisasi dalam satu Akun Alibaba Cloud yang sama. Pilih No.
	ECS Instance ID	Pilih ID instans ECS target.
	Port Number	Masukkan port layanan database MariaDB sumber. Port tersebut harus dapat diakses melalui internet. Port default adalah 3306.
	Database Account	Masukkan akun database untuk database MariaDB yang dikelola sendiri sumber. Untuk informasi tentang izin yang diperlukan, lihat Izin akun database.
	Database Password	Masukkan password yang sesuai dengan akun database.
	Connection Method	Secara default, Non-encrypted dipilih.
Destination Database	Select Existing Connection	Untuk tutorial ini, Anda tidak perlu memilih instans yang sudah ada. Konfigurasikan informasi database di kolom di bawah.
	Database Type	Pilih MariaDB.
	Connection Type	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat instans tujuan ApsaraDB RDS for MariaDB berada.
	RDS Instance ID	Pilih ID instans tujuan ApsaraDB RDS for MariaDB.
	Database Account	Masukkan akun database untuk instans tujuan ApsaraDB RDS for MariaDB. Akun tersebut harus memiliki izin baca dan tulis pada database tujuan.
	Database Password	Masukkan password yang sesuai dengan akun database.
	Connection Method	Pilih Non-encrypted.

Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan
- Pastikan blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Tambahkan blok CIDR alamat IP server DTS ke daftar putih.
- Jika database sumber atau tujuan adalah database yang dikelola sendiri (di mana Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers.

Konfigurasikan objek tugas.

Di halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.

Parameter	Deskripsi
Synchronization Types	Incremental Data Synchronization dipilih. Secara default, Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah pemeriksaan awal selesai, DTS melakukan sinkronisasi data penuh dari objek yang dipilih dari instans sumber ke klaster tujuan. Ini berfungsi sebagai data garis dasar untuk sinkronisasi data inkremental berikutnya.
Method to Migrate Triggers in Source Database	Pilih metode untuk menyinkronkan trigger berdasarkan kebutuhan bisnis Anda. Jika Anda tidak menyinkronkan trigger apa pun, Anda dapat melewati parameter ini. Untuk informasi selengkapnya, lihat Konfigurasi metode untuk menyinkronkan atau memigrasikan trigger. Catatan Parameter ini tersedia hanya ketika Schema Synchronization dipilih untuk Synchronization Types.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tabel dengan nama yang sama tidak ada, pemeriksaan awal lolos. Jika tabel dengan nama yang sama ada, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dimulai. Catatan Jika Anda tidak dapat menghapus atau mengganti nama tabel dengan nama yang sama di database tujuan, Anda dapat memetakannya ke nama tabel yang berbeda. Untuk informasi selengkapnya, lihat Pemetaan nama tabel dan kolom. Ignore Errors and Proceed: Melewatkan pemeriksaan nama tabel duplikat di database tujuan. Peringatan Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan membahayakan bisnis Anda. Misalnya: Jika skema tabel sama dan catatan di database tujuan memiliki nilai primary key atau unique key yang sama dengan catatan di database sumber: Selama sinkronisasi penuh, DTS mempertahankan catatan di klaster tujuan. Catatan yang sesuai dari database sumber tidak disinkronkan. Selama sinkronisasi inkremental, catatan dari database sumber menimpa catatan di database tujuan. Jika skema tabel berbeda, sinkronisasi data awal mungkin gagal. Hal ini dapat mengakibatkan hanya data kolom parsial yang disinkronkan atau kegagalan sinkronisasi total. Harap berhati-hati.
Capitalization of Object Names in Destination Instance	Anda dapat mengonfigurasi kebijakan sensitivitas huruf besar/kecil untuk nama objek database, tabel, dan kolom yang disinkronkan ke instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menggunakan kebijakan default database sumber dan tujuan. Untuk informasi selengkapnya, lihat Kebijakan sensitivitas huruf besar/kecil untuk nama objek tujuan.
Source Objects	Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik untuk memindahkannya ke kotak Selected Objects. Catatan Anda dapat memilih database, tabel, dan kolom sebagai objek sinkronisasi. Jika Anda memilih tabel atau kolom, objek lain seperti view, trigger, dan stored procedure tidak disinkronkan ke database tujuan.
Selected Objects	Untuk mengganti nama satu objek sinkronisasi di instans tujuan, klik kanan objek di kotak Selected Objects. Untuk informasi selengkapnya tentang penggantian nama objek, lihat Pemetaan satu database, tabel, atau kolom. Untuk mengubah nama beberapa objek sinkronisasi di instans tujuan secara batch, klik Batch Edit di pojok kanan atas kotak Selected Objects. Untuk informasi selengkapnya, lihat Pemetaan database, tabel, dan kolom secara batch. Catatan Untuk memilih operasi SQL yang akan disinkronkan untuk skema atau tabel tertentu, klik kanan objek di kotak Selected Objects dan pilih operasi SQL yang diinginkan di kotak dialog yang muncul. Untuk memfilter data menggunakan klausa WHERE, klik kanan tabel di kotak Selected Objects dan tentukan kondisi filter di kotak dialog yang muncul. Untuk informasi selengkapnya, lihat Atur kondisi filter. Jika Anda menggunakan fitur pemetaan nama objek, objek lain yang bergantung pada objek yang dipetakan mungkin gagal disinkronkan.

Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

Parameter	Deskripsi
Dedicated Cluster for Task Scheduling	Secara default, DTS menjadwalkan tugas pada klaster bersama. Anda tidak perlu memilihnya. Jika Anda menginginkan tugas yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas migrasi DTS.
Retry Time for Failed Connections	Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba koneksi ulang. Durasi percobaan ulang default adalah 720 menit. Anda juga dapat menentukan durasi percobaan ulang kustom dari 10 hingga 1.440 menit. Kami menyarankan Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi secara otomatis dilanjutkan. Jika tidak, tugas gagal. Catatan Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu percobaan ulang jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, durasi yang lebih pendek yaitu 30 menit akan digunakan untuk keduanya. Karena DTS mengenakan biaya untuk waktu proses tugas selama periode percobaan ulang koneksi, kami menyarankan Anda menyesuaikan durasi percobaan ulang berdasarkan kebutuhan bisnis Anda atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues	Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-koneksi lainnya pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS melaporkan error dan segera memulai operasi percobaan ulang berkelanjutan. Durasi percobaan ulang default adalah 10 menit. Anda juga dapat menyesuaikan durasi percobaan ulang dalam rentang 1 hingga 1.440 menit. Kami menyarankan Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditetapkan, tugas sinkronisasi secara otomatis dilanjutkan. Jika tidak, tugas gagal. Penting Nilai untuk Retry Time for Other Issues harus lebih kecil daripada nilai untuk Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s). Catatan Item konfigurasi ini tersedia hanya ketika Synchronization Types diatur ke Full Data Synchronization. Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi sedang berjalan.
Enable Throttling for Incremental Data Synchronization	Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Anda dapat memilih tag lingkungan untuk mengidentifikasi instans berdasarkan kebutuhan bisnis Anda. Parameter ini opsional.
Configure ETL	Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi selengkapnya, lihat Apa itu ETL? Nilai yang valid: Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Konfigurasi ETL dalam tugas migrasi data atau sinkronisasi data. No: Menonaktifkan fitur ETL.
Monitoring and Alerting	Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi akan dikirim ke kontak peringatan. No: Tidak ada peringatan yang dikonfigurasi. Yes: Konfigurasi peringatan dengan mengatur ambang batas peringatan dan menentukan pemberitahuan peringatan. Untuk informasi selengkapnya, lihat Konfigurasi pemantauan peringatan selama konfigurasi tugas.

Simpan tugas dan jalankan pemeriksaan awal.
- Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di balon informasi.
- Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan
- Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Pekerjaan hanya dapat dimulai setelah semua item pemeriksaan awal lolos.
- Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan pemeriksaan awal lagi.
- Jika pemeriksaan awal mengembalikan peringatan:
  
  Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti instruksi untuk memperbaiki masalah, lalu jalankan pemeriksaan awal lagi.
  
  Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan pemeriksaan awal lagi. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

Beli instans.

Ketika Success Rate mencapai 100%, klik Next: Purchase Instance.

Di halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instans sinkronisasi data. Tabel berikut menjelaskan parameter-parameter ini secara rinci.

Kategori	Parameter	Deskripsi
New Instance Class	Billing Method	Subscription: Anda membayar saat membuat instans. Ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya dibandingkan pay-as-you-go. Semakin lama durasi langganan, semakin tinggi diskonnya. Pay-as-you-go: Anda dikenai biaya per jam. Ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah digunakan untuk menghemat biaya.
	Resource Group Configuration	Kelompok sumber daya tempat instans tersebut berada. Default-nya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu Resource Management?.
	Link Specification	DTS menyediakan spesifikasi sinkronisasi dengan tingkat kinerja berbeda. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link sinkronisasi data.
	Subscription Duration	Dalam mode subscription, pilih durasi dan jumlah untuk instans langganan. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan, atau langganan tahunan selama 1, 2, 3, atau 5 tahun. Catatan Opsi ini hanya tersedia ketika metode penagihan adalah Subscription.

Setelah menyelesaikan konfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
Klik Buy and Start. Di kotak dialog OK, klik OK.

Anda dapat melihat progres tugas di halaman Data Synchronization.