Sinkronisasi database logis Data Management (DMS) ke AnalyticDB for MySQL 3.0 - Data Transmission Service

Layanan Transmisi Data (Data Transmission Service/DTS) memungkinkan Anda menyinkronkan database logis yang dikonfigurasi di Data Management (DMS) ke AnalyticDB for MySQL 3.0, sehingga membantu Anda membangun sistem intelijen bisnis (BI) internal, kueri interaktif, dan pelaporan real-time dengan cepat.

Prasyarat

Anda telah mengonfigurasi database logis di DMS. Database logis tersebut harus dibuat dari database terpartisi (sharded databases) yang tersebar di beberapa instans PolarDB for MySQL. Untuk informasi selengkapnya, lihat Database logis.
Semua instans PolarDB for MySQL yang menampung database terpartisi fisik untuk database logis DMS harus berada di wilayah yang sama serta menggunakan akun database dan kata sandi yang seragam dengan izin baca pada database terpartisi fisik tersebut. Untuk informasi tentang cara membuat dan memberikan otorisasi akun, lihat Buat dan kelola akun database.
Anda telah membuat klaster tujuan AnalyticDB for MySQL 3.0. Untuk informasi selengkapnya, lihat Buat klaster.
Kapasitas penyimpanan klaster AnalyticDB for MySQL 3.0 harus lebih besar daripada ruang penyimpanan yang digunakan oleh database logis DMS.

Batasan

Catatan

Selama sinkronisasi skema, DTS tidak menyinkronkan kunci asing (foreign keys) dari database sumber ke database tujuan.
Selama sinkronisasi data penuh dan inkremental, DTS sementara menonaktifkan pemeriksaan constraint dan operasi kaskade kunci asing pada tingkat sesi. Jika Anda melakukan operasi pembaruan atau penghapusan kaskade pada database sumber saat tugas sedang berjalan, ketidakkonsistenan data dapat terjadi.
Selama sinkronisasi skema, DTS tidak mendukung penyinkronan tampilan yang di-materialisasi (materialized views) ke instans AnalyticDB for MySQL target. Jika Anda perlu menggunakan materialized view, buat secara manual di instans target setelah sinkronisasi selesai.

Jenis	Deskripsi
Batasan database sumber	Tabel yang akan disinkronkan harus memiliki kunci primer atau constraint unik untuk memastikan setiap baris bersifat unik. Jika tidak, data duplikat dapat muncul di database tujuan. Jika Anda melakukan sinkronisasi pada tingkat tabel dan perlu mengedit objek (misalnya, memetakan nama tabel atau kolom), satu tugas sinkronisasi data hanya mendukung hingga 1.000 tabel. Jika melebihi batas ini, pengiriman tugas akan gagal. Dalam kasus ini, bagi tabel menjadi beberapa tugas, atau konfigurasikan tugas sinkronisasi pada tingkat database. Log biner: Pencatatan log biner harus diaktifkan, dan `loose_polar_log_bin` harus diatur ke on. Jika tidak, pemeriksaan awal (precheck) gagal dan tugas sinkronisasi data tidak dapat dimulai. Untuk tugas sinkronisasi data inkremental, DTS mensyaratkan agar log biner lokal database sumber dipertahankan lebih dari 24 jam. Untuk tugas yang mencakup sinkronisasi data penuh dan inkremental, DTS mensyaratkan agar log biner lokal dipertahankan minimal 7 hari. Anda dapat mengubah periode retensi menjadi lebih dari 24 jam setelah sinkronisasi data penuh selesai. Jika tidak, tugas dapat gagal karena DTS tidak dapat memperoleh log biner. Dalam kasus ekstrem, data dapat menjadi tidak konsisten atau hilang. Masalah yang disebabkan oleh periode retensi log biner yang lebih pendek dari yang disyaratkan tidak dicakup oleh Perjanjian Tingkat Layanan (SLA) DTS. Selama sinkronisasi, jangan lakukan operasi DDL yang menambahkan komentar (misalnya, `ALTER TABLE table_name COMMENT='table_comment';`). Jika dilakukan, tugas sinkronisasi data akan gagal. Jangan menjalankan operasi DDL yang mengubah skema database atau tabel selama sinkronisasi skema atau sinkronisasi penuh. Jika dilakukan, tugas sinkronisasi akan gagal. Catatan Selama sinkronisasi penuh, DTS melakukan kueri ke database sumber. Hal ini membuat kunci metadata (metadata locks) yang dapat memblokir operasi DDL pada database sumber.
Batasan lainnya	Anda hanya dapat mengonfigurasi sinkronisasi dari database logis DMS ke AnalyticDB for MySQL 3.0 di wilayah China (Shanghai) dan Singapura. Database tujuan harus memiliki kunci primer kustom. Atau, pada langkah Configurations for Databases, Tables, and Columns, konfigurasikan Primary Key Column. Jika tidak, sinkronisasi dapat gagal. Indeks awalan (prefix indexes) tidak didukung. Jika database sumber berisi indeks awalan, sinkronisasi data dapat gagal. Karena keterbatasan AnalyticDB for MySQL, ketika penggunaan ruang disk sebuah node dalam klaster AnalyticDB for MySQL melebihi 80%, kinerja penulisan ke database tujuan menurun, sehingga menyebabkan latensi tugas DTS. Ketika penggunaan melebihi 90%, data tidak dapat ditulis ke database tujuan, sehingga tugas DTS gagal. Perkirakan ruang yang dibutuhkan berdasarkan objek yang akan disinkronkan dan pastikan klaster tujuan memiliki ruang penyimpanan yang cukup. Jika klaster tujuan AnalyticDB for MySQL 3.0 sedang melakukan backup saat tugas DTS berjalan, tugas tersebut akan gagal. Sebelum memulai sinkronisasi data, evaluasi kinerja database sumber dan tujuan. Kami menyarankan untuk melakukan migrasi data pada jam sepi. Jika tidak, sinkronisasi data penuh awal akan mengonsumsi sumber daya baca dan tulis pada database sumber dan tujuan, sehingga meningkatkan beban sistem. Sinkronisasi data penuh melakukan operasi INSERT secara konkuren, yang menyebabkan fragmentasi tabel di database tujuan. Akibatnya, ruang tabel (tablespace) di instans tujuan lebih besar daripada di instans sumber setelah inisialisasi penuh selesai. Untuk sinkronisasi data tingkat tabel, jangan gunakan alat seperti `pt-online-schema-change` untuk melakukan perubahan DDL online pada objek sinkronisasi di database sumber. Hal ini menyebabkan sinkronisasi gagal. Untuk sinkronisasi data tingkat tabel, jika DTS merupakan satu-satunya sumber yang menulis data ke database tujuan, Anda dapat menggunakan Data Management (DMS) untuk melakukan perubahan DDL online. Untuk informasi selengkapnya, lihat Lakukan operasi DDL tanpa lock. Selama sinkronisasi DTS berlangsung, jangan menulis data dari sumber lain ke database tujuan. Hal ini dapat menyebabkan ketidakkonsistenan data antara database sumber dan tujuan. Misalnya, jika data dari sumber lain sedang ditulis ke database tujuan saat Anda menggunakan DMS untuk melakukan perubahan DDL online, kehilangan data dapat terjadi di database tujuan. Jika suatu tugas gagal, staf dukungan DTS akan berusaha memulihkannya dalam waktu delapan jam. Selama pemulihan, mereka dapat merestart tugas atau menyesuaikan parameternya. Catatan Hanya parameter tugas DTS yang dimodifikasi—bukan parameter database. Parameter yang mungkin disesuaikan termasuk yang tercantum dalam Modifikasi parameter instans. Ketika AnalyticDB for MySQL menjadi tujuan, DTS hanya mendukung penulisan tipe data yang didukungnya, termasuk tipe data dasar dan tipe data kompleks seperti ARRAY, MAP, dan JSON. DTS tidak mendukung penulisan tipe lain seperti MULTIVALUE.

Penagihan

Jenis sinkronisasi	Harga
Sinkronisasi skema dan sinkronisasi data penuh	Gratis.
Sinkronisasi data inkremental	Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan.

Topologi sinkronisasi yang didukung

Sinkronisasi satu arah satu-ke-satu
Sinkronisasi satu arah satu-ke-banyak
Sinkronisasi satu arah banyak-ke-satu

Untuk informasi selengkapnya tentang berbagai topologi sinkronisasi dan batasannya, lihat Topologi sinkronisasi.

Operasi SQL yang didukung

Jenis operasi	Pernyataan SQL
DML	INSERT, UPDATE, DELETE Catatan Ketika data ditulis ke klaster AnalyticDB for MySQL, pernyataan UPDATE secara otomatis dikonversi menjadi pernyataan REPLACE INTO.

Prosedur

Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:
Dari konsol DTS
1. Masuk ke Konsol Layanan Transmisi Data (Data Transmission Service/DTS).
2. Di panel navigasi sebelah kiri, klik Data Synchronization.
3. Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.
Dari konsol DMS

Catatan
Operasi aktual dapat berbeda tergantung pada mode dan tata letak konsol DMS. Untuk informasi selengkapnya, lihat Mode sederhana dan Sesuaikan tata letak dan gaya antarmuka DMS.
1. Masuk ke Data Management (DMS).
2. Di bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Synchronization.
3. Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.
Klik Create Task untuk membuka halaman konfigurasi tugas.

Konfigurasikan database sumber dan tujuan.

Peringatan

Setelah memilih instans sumber dan tujuan, baca dengan cermat batasan yang ditampilkan di bagian atas halaman. Jika Anda tidak mengikuti batasan tersebut, tugas dapat gagal atau terjadi ketidakkonsistenan data.

Kategori	Parameter	Deskripsi
N/A	Task Name	DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tersebut tidak harus unik.
Source Database	Database Type	Pilih DMS LogicDB.
	Connection Type	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat database logis DMS berada.
	Database Account	Masukkan akun database seragam untuk semua instans PolarDB for MySQL yang menampung database terpartisi fisik untuk database logis DMS. Akun tersebut harus memiliki izin baca pada database terpartisi fisik. Untuk informasi selengkapnya, lihat Buat dan kelola akun database.
	Database Password	Masukkan password yang sesuai dengan akun database tersebut.
Destination Database	Database Type	Pilih AnalyticDB 3.0.
	Connection Type	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat klaster AnalyticDB for MySQL 3.0 tujuan berada.
	Instance ID	Pilih ID klaster AnalyticDB for MySQL 3.0 tujuan.
	Database Account	Masukkan akun database untuk klaster AnalyticDB for MySQL 3.0 tujuan. Akun tersebut harus memiliki izin baca dan tulis.
	Database Password	Masukkan password yang sesuai dengan akun database tersebut.

Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.

Catatan
Pastikan blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan agar mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Tambahkan blok CIDR alamat IP server DTS ke daftar putih.

Konfigurasikan objek tugas.

Pada halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.

Parameter	Deskripsi
Synchronization Types	Incremental Data Synchronization dipilih. Secara default, Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah pemeriksaan awal selesai, DTS melakukan sinkronisasi data penuh dari objek yang dipilih dari instans sumber ke klaster tujuan. Ini berfungsi sebagai data garis dasar (baseline) untuk sinkronisasi data inkremental berikutnya. Catatan Jika Full Data Synchronization dipilih, Anda dapat menyinkronkan skema dan data tabel yang dibuat dengan menjalankan pernyataan CREATE TABLE ke database tujuan.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama sudah ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, pemeriksaan awal lolos. Jika ada tabel dengan nama yang sama, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dimulai. Catatan Jika Anda tidak dapat menghapus atau mengganti nama tabel dengan nama yang sama di database tujuan, Anda dapat memetakannya ke nama tabel yang berbeda. Untuk informasi selengkapnya, lihat Petakan nama tabel dan kolom. Ignore Errors and Proceed: Melewati pemeriksaan nama tabel duplikat di database tujuan. Peringatan Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda. Contohnya: Jika skema tabel sama dan sebuah record di database tujuan memiliki nilai kunci primer atau kunci unik yang sama dengan record di database sumber: Selama sinkronisasi penuh, DTS mempertahankan record di klaster tujuan. Record yang sesuai dari database sumber tidak disinkronkan. Selama sinkronisasi inkremental, record dari database sumber menimpa record di database tujuan. Jika skema tabel berbeda, sinkronisasi data awal dapat gagal. Hal ini dapat mengakibatkan hanya sebagian data kolom yang disinkronkan atau kegagalan sinkronisasi total. Lakukan dengan hati-hati.
Source Objects	Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik untuk memindahkannya ke kotak Selected Objects. Catatan Anda dapat memilih kolom, tabel, atau database sebagai objek yang akan disinkronkan. Jika Anda memilih tabel atau kolom, DTS tidak menyinkronkan objek lain seperti tampilan (views), pemicu (triggers), atau prosedur tersimpan (stored procedures) ke database tujuan. Jika Anda memilih database sebagai objek yang akan disinkronkan, DTS menerapkan aturan default berikut: Jika tabel sumber memiliki kunci primer (kolom tunggal atau komposit), kolom kunci primer digunakan sebagai kunci distribusi. Jika tabel sumber tidak memiliki kunci primer, kolom kunci primer auto-increment dibuat di tabel tujuan. Hal ini dapat menyebabkan ketidakkonsistenan data antara database sumber dan tujuan.
Selected Objects	Untuk mengganti nama satu objek sinkronisasi di instans tujuan, klik kanan objek tersebut di kotak Selected Objects. Untuk informasi selengkapnya tentang penggantian nama objek, lihat Petakan satu database, tabel, atau kolom. Untuk mengganti nama beberapa objek sinkronisasi di instans tujuan secara batch, klik Batch Edit di pojok kanan atas kotak Selected Objects. Untuk informasi selengkapnya, lihat Petakan database, tabel, dan kolom secara batch. Catatan Untuk memilih operasi SQL yang akan disinkronkan pada tingkat database atau tabel, klik kanan objek di panel Selected Objects dan pilih operasi SQL yang diinginkan dari kotak dialog yang muncul. Untuk memfilter data menggunakan klausa WHERE, klik kanan tabel di panel Selected Objects dan tentukan kondisi filter di kotak dialog yang muncul. Untuk petunjuknya, lihat Tentukan kondisi filter.

Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

Parameter	Deskripsi
Dedicated Cluster for Task Scheduling	Secara default, DTS menjadwalkan tugas pada klaster bersama, dan Anda tidak perlu memilih klaster. Untuk kinerja yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas sinkronisasi DTS. Untuk informasi selengkapnya, lihat Apa itu klaster khusus DTS?.
Retry Time for Failed Connections	Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba koneksi ulang. Durasi ulang coba default adalah 720 menit. Anda juga dapat menentukan durasi kustom antara 10 hingga 1.440 menit. Kami menyarankan Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal. Catatan Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu ulang coba jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, maka durasi yang lebih pendek yaitu 30 menit akan digunakan untuk keduanya. Karena DTS membebankan biaya berdasarkan waktu proses tugas selama periode ulang coba koneksi, kami menyarankan Anda menyesuaikan durasi ulang coba sesuai kebutuhan bisnis atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues	Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-konektivitas lain pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS melaporkan error dan segera memulai operasi ulang coba berkelanjutan. Durasi ulang coba default adalah 10 menit. Anda juga dapat menyesuaikan durasi ulang coba dalam rentang 1 hingga 1.440 menit. Kami menyarankan Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi ulang coba yang ditetapkan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal. Penting Nilai Retry Time for Other Issues harus lebih kecil daripada nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization	Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s). Catatan Item konfigurasi ini hanya tersedia ketika Synchronization Types diatur ke Full Data Synchronization. Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi sedang berjalan.
Enable Throttling for Incremental Data Synchronization	Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Environment Tag	Anda dapat memilih tag lingkungan untuk mengidentifikasi instans sesuai kebutuhan. Langkah ini tidak wajib untuk contoh ini.
Configure ETL	Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, dan muat (extract, transform, and load/ETL). Untuk informasi selengkapnya, lihat Apa itu ETL?. Nilai yang valid: Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Konfigurasi ETL dalam tugas migrasi data atau sinkronisasi data. No: Menonaktifkan fitur ETL.
Monitoring and Alerting	Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi akan dikirim ke kontak peringatan. No: Tidak ada peringatan yang dikonfigurasi. Yes: Konfigurasikan peringatan dengan menetapkan ambang batas peringatan dan menentukan notifikasi peringatan. Untuk informasi selengkapnya, lihat Konfigurasi pemantauan dan peringatan selama konfigurasi tugas.

Opsi: Setelah menyelesaikan konfigurasi di atas, klik Next: Configure Database and Table Fields untuk mengatur Type, Primary Key Column, Distribution Key, dan informasi kunci partisi (Partition Key, Partitioning Rules, dan Partition Lifecycle) untuk tabel yang akan disinkronkan di database tujuan.
Catatan
- Langkah ini hanya tersedia jika Anda memilih Schema Synchronization untuk Synchronization Types saat mengonfigurasi objek tugas. Anda kemudian dapat mengatur Definition Status ke All untuk melakukan modifikasi.
- Primary Key Column dapat berupa kunci primer komposit yang terdiri dari beberapa kolom. Anda harus memilih satu atau beberapa kolom dari Primary Key Column untuk berfungsi sebagai Distribution Key dan Partition Key. Untuk informasi selengkapnya, lihat CREATE TABLE.

Simpan tugas dan jalankan pemeriksaan awal.
- Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di balon informasi.
- Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan
- Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Pekerjaan hanya dapat dimulai setelah semua item pemeriksaan awal lolos.
- Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan kembali pemeriksaan awal.
- Jika pemeriksaan awal menghasilkan peringatan:
  
  Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti petunjuk untuk memperbaiki masalah, lalu jalankan kembali pemeriksaan awal.
  
  Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

Beli instans.

Ketika Success Rate mencapai 100%, klik Next: Purchase Instance.

Pada halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instans sinkronisasi data. Tabel berikut menjelaskan parameter-parameter ini secara rinci.

Kategori	Parameter	Deskripsi
New Instance Class	Metode Penagihan	Langganan: Anda membayar saat membuat instans. Metode ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya dibandingkan bayar sesuai penggunaan. Semakin lama durasi langganan, semakin tinggi diskonnya. Bayar sesuai penggunaan: Anda dikenai biaya per jam. Metode ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah selesai digunakan untuk menghemat biaya.
	Konfigurasi Kelompok Sumber Daya	Kelompok sumber daya tempat instans tersebut berada. Default-nya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu Resource Management?.
	Spesifikasi Link	DTS menyediakan spesifikasi sinkronisasi dengan berbagai tingkat kinerja. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link sinkronisasi data.
	Durasi Langganan	Dalam mode langganan, pilih durasi dan jumlah untuk instans langganan. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan, atau langganan tahunan selama 1, 2, 3, atau 5 tahun. Catatan Opsi ini hanya tersedia ketika metode penagihan adalah Subscription.

Setelah menyelesaikan konfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
Klik Buy and Start. Di kotak dialog OK, klik OK.

Anda dapat melihat progres tugas di halaman Sinkronisasi Data.