Topik ini menjelaskan cara menyinkronkan data dari instans PolarDB-X 2.0 ke klaster AnalyticDB for MySQL V3.0 menggunakan Data Transmission Service (DTS). Setelah sinkronisasi selesai, Anda dapat memanfaatkan AnalyticDB for MySQL untuk membangun sistem business intelligence (BI) internal, sistem kueri interaktif, dan sistem pelaporan waktu nyata.
Prasyarat
Instans sumber PolarDB-X yang kompatibel dengan MySQL 5.7 telah dibuat.
Klaster tujuan AnalyticDB for MySQL 3.0 telah dibuat. Untuk informasi lebih lanjut, lihat Buat Klaster.
Ruang penyimpanan klaster tujuan AnalyticDB for MySQL 3.0 lebih besar daripada ruang penyimpanan yang digunakan oleh instans sumber PolarDB-X 2.0.
Catatan
Selama sinkronisasi skema, DTS tidak menyinkronkan kunci asing dari database sumber ke database tujuan.
Selama sinkronisasi data penuh dan sinkronisasi data tambahan, DTS sementara menonaktifkan pengecekan kendala dan operasi kaskade pada kunci asing di tingkat sesi. Jika Anda melakukan operasi pembaruan dan penghapusan kaskade pada database sumber selama sinkronisasi data, ketidaksesuaian data mungkin terjadi.
Kategori | Deskripsi |
Batasan pada database sumber |
|
Batasan lainnya |
|
Tindakan pencegahan | DTS memperbarui tabel `dts_health_check`.`ha_health_check` di database sumber secara terjadwal untuk memajukan posisi file log biner. |
Penagihan
Jenis Sinkronisasi | Biaya Konfigurasi Tugas |
Sinkronisasi skema dan data penuh | Gratis. |
Sinkronisasi data tambahan | Dikenakan biaya. Untuk informasi lebih lanjut, lihat Ikhtisar Penagihan. |
Topologi sinkronisasi yang didukung
Sinkronisasi satu arah satu-ke-satu
Sinkronisasi satu arah satu-ke-banyak
Sinkronisasi satu arah kaskade
Sinkronisasi satu arah banyak-ke-satu
Untuk informasi lebih lanjut tentang topologi sinkronisasi yang didukung oleh DTS, lihat Topologi Sinkronisasi.
Operasi SQL yang dapat disinkronkan
Jenis Operasi | Pernyataan SQL |
DML | INSERT, UPDATE, dan DELETE Catatan Saat data ditulis ke klaster tujuan AnalyticDB for MySQL V3.0, pernyataan UPDATE secara otomatis diubah menjadi pernyataan REPLACE INTO. Jika pernyataan UPDATE dijalankan pada primary key, pernyataan UPDATE diubah menjadi pernyataan DELETE dan INSERT. |
DDL | CREATE TABLE, DROP TABLE, RENAME TABLE, TRUNCATE TABLE, ADD COLUMN, MODIFY COLUMN, dan DROP COLUMN |
Prosedur
Gunakan salah satu metode berikut untuk pergi ke halaman Sinkronisasi Data dan pilih wilayah tempat instans sinkronisasi data berada.
Konsol DTS
Masuk ke Konsol DTS.
Di panel navigasi di sebelah kiri, klik Data Synchronization.
Di sudut kiri atas halaman, pilih wilayah tempat tugas sinkronisasi data berada.
Konsol DMS
CatatanOperasi aktual mungkin bervariasi berdasarkan mode dan tata letak konsol DMS. Untuk informasi lebih lanjut, lihat Mode Sederhana dan Sesuaikan Tata Letak dan Gaya Konsol DMS.
Masuk ke Konsol DMS.
Di bilah navigasi atas, gerakkan pointer ke Data + AI dan pilih .
Dari daftar drop-down di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi data berada.
Klik Create Task untuk pergi ke halaman konfigurasi tugas.
Konfigurasikan database sumber dan tujuan. Tabel berikut menjelaskan parameter.
PeringatanSetelah mengonfigurasi database sumber dan tujuan, kami sarankan Anda membaca Limits yang ditampilkan di halaman. Jika tidak, tugas mungkin gagal atau ketidaksesuaian data mungkin terjadi.
Bagian
Parameter
Deskripsi
N/A
Task Name
Nama tugas DTS. DTS secara otomatis menghasilkan nama tugas. Kami sarankan Anda menentukan nama deskriptif yang memudahkan identifikasi tugas. Anda tidak perlu menentukan nama tugas unik.
Source Database
Select Existing Connection
Jika Anda menggunakan instans database yang terdaftar dengan DTS, pilih instans dari daftar drop-down. DTS secara otomatis mengisi parameter database berikut untuk instans tersebut. Untuk informasi lebih lanjut, lihat Kelola koneksi database.
CatatanDi konsol DMS, Anda dapat memilih instans database dari daftar drop-down Select a DMS database instance.
Jika Anda gagal mendaftarkan instans dengan DTS, atau Anda tidak perlu menggunakan instans yang terdaftar dengan DTS, Anda harus mengonfigurasi informasi database berikut.
Database Type
Jenis database sumber. Pilih PolarDB-X 2.0.
Connection Type
Metode akses database sumber. Pilih Alibaba Cloud Instance.
Instance Region
Wilayah tempat instans sumber PolarDB-X 2.0 berada.
Replicate Data Across Alibaba Cloud Accounts
Menentukan apakah data disinkronkan lintas akun Alibaba Cloud. Dalam contoh ini, No dipilih.
Instance ID
ID instans sumber PolarDB-X 2.0.
Database Account
Akun database instans sumber PolarDB-X 2.0. Akun tersebut harus memiliki izin SELECT pada objek yang akan disinkronkan, serta izin REPLICATION CLIENT dan REPLICATION SLAVE.
CatatanUntuk informasi lebih lanjut tentang cara memberikan izin kepada akun database, lihat Alat sinkronisasi data untuk PolarDB-X.
Database Password
Kata sandi yang digunakan untuk mengakses database.
Destination Database
Select Existing Connection
Jika Anda menggunakan instans database yang terdaftar dengan DTS, pilih instans dari daftar drop-down. DTS secara otomatis mengisi parameter database berikut untuk instans tersebut. Untuk informasi lebih lanjut, lihat Kelola koneksi database.
CatatanDi konsol DMS, Anda dapat memilih instans database dari daftar drop-down Select a DMS database instance.
Jika Anda gagal mendaftarkan instans dengan DTS, atau Anda tidak perlu menggunakan instans yang terdaftar dengan DTS, Anda harus mengonfigurasi informasi database berikut.
Database Type
Jenis database tujuan. Pilih AnalyticDB MySQL 3.0.
Connection Type
Metode akses database tujuan. Pilih Alibaba Cloud Instance.
Instance Region
Wilayah tempat klaster tujuan AnalyticDB for MySQL V3.0 berada.
Replicate Data Across Alibaba Cloud Accounts
Menentukan apakah data disinkronkan lintas akun Alibaba Cloud. Dalam contoh ini, No dipilih.
Instance ID
ID klaster tujuan AnalyticDB for MySQL 3.0.
Database Account
Akun database klaster tujuan AnalyticDB for MySQL V3.0. Akun tersebut harus memiliki izin baca dan tulis pada klaster tujuan AnalyticDB for MySQL V3.0.
Database Password
Kata sandi yang digunakan untuk mengakses database.
Di bagian bawah halaman, klik Test Connectivity and Proceed.
CatatanPastikan bahwa blok CIDR server DTS dapat ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi lebih lanjut, lihat Tambahkan Blok CIDR Server DTS.
Konfigurasikan objek yang akan disinkronkan.
Di langkah Configure Objects, konfigurasikan objek yang ingin Anda sinkronkan.
Parameter
Deskripsi
Synchronization Type
Jenis sinkronisasi. Secara default, Incremental Data Synchronization dipilih. Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah pra-pemeriksaan selesai, DTS menyinkronkan data historis objek yang dipilih dari database sumber ke klaster tujuan. Data historis adalah dasar untuk sinkronisasi tambahan selanjutnya.
CatatanJika Full Data Synchronization dipilih, Anda dapat menyinkronkan skema dan data tabel yang dibuat dengan menjalankan pernyataan CREATE TABLE ke database tujuan.
Processing Mode for Existing Destination Tables
Precheck and Report Errors: memeriksa apakah database tujuan berisi tabel yang memiliki nama yang sama dengan tabel di database sumber. Jika database sumber dan tujuan tidak berisi tabel dengan nama tabel identik, pra-pemeriksaan berhasil. Jika tidak, kesalahan dikembalikan selama pra-pemeriksaan, dan tugas sinkronisasi data tidak dapat dimulai.
CatatanJika database sumber dan tujuan berisi tabel dengan nama identik dan tabel di database tujuan tidak dapat dihapus atau diganti namanya, Anda dapat menggunakan fitur pemetaan nama objek untuk mengganti nama tabel yang disinkronkan ke database tujuan. Untuk informasi lebih lanjut, lihat Peta nama objek.
Ignore Errors and Proceed: melewati pra-pemeriksaan untuk nama tabel identik di database sumber dan tujuan.
PeringatanJika Anda memilih Ignore Errors and Proceed, ketidaksesuaian data mungkin terjadi dan bisnis Anda mungkin terpapar risiko potensial.
Jika database sumber dan tujuan memiliki skema yang sama dan catatan data di database tujuan memiliki nilai primary key atau unique key yang sama dengan catatan data di database sumber:
Selama sinkronisasi data penuh, DTS tidak menyinkronkan catatan data ke database tujuan. Catatan data yang ada di database tujuan dipertahankan.
Selama sinkronisasi data tambahan, DTS menyinkronkan catatan data ke database tujuan. Catatan data yang ada di database tujuan ditimpa.
Jika database sumber dan tujuan memiliki skema yang berbeda, data mungkin gagal diinisialisasi. Dalam hal ini, hanya beberapa kolom yang disinkronkan, atau instans sinkronisasi data gagal. Lanjutkan dengan hati-hati.
Table Merging
Yes: Dalam skenario pemrosesan transaksi online (OLTP), sharding diimplementasikan untuk mempercepat respons terhadap tabel bisnis. Dalam skenario pemrosesan analitik online (OLAP), Anda dapat menyimpan volume data yang besar dalam satu tabel. Ini membuat kueri SQL Anda lebih efisien. Anda dapat menggabungkan beberapa tabel sumber yang memiliki skema yang sama menjadi satu tabel tujuan. Fitur ini memungkinkan Anda menyinkronkan data dari beberapa tabel di database sumber ke satu tabel di database tujuan. Untuk informasi lebih lanjut, lihat Aktifkan fitur penggabungan multi-tabel.
CatatanSetelah Anda memilih beberapa tabel dari database sumber, Anda harus mengubah nama tabel-tabel ini menjadi nama tabel tujuan dengan menggunakan fitur pemetaan nama objek. Untuk informasi lebih lanjut, lihat Peta nama objek.
DTS menambahkan kolom bernama
__dts_data_sourceke tabel tujuan. Kolom ini digunakan untuk mencatat sumber data. Tipe data kolom ini adalah TEXT. Nilai-nilai kolom ini berada dalam format berikut:ID instans sinkronisasi data:nama database sumber:nama skema sumber:nama tabel sumber. Ini memungkinkan DTS mengidentifikasi setiap tabel sumber. Contoh:dts********:dtstestdata:testschema:customer1.Jika Anda mengatur parameter ini ke Ya, semua tabel sumber yang dipilih dalam tugas digabungkan ke dalam tabel tujuan. Jika Anda tidak perlu menggabungkan tabel sumber tertentu, Anda dapat membuat tugas sinkronisasi data terpisah untuk tabel-tabel tersebut.
PeringatanKami sarankan Anda tidak melakukan operasi DDL untuk mengubah skema database atau tabel sumber. Jika tidak, ketidaksesuaian data terjadi atau tugas sinkronisasi data gagal.
No: Nilai ini dipilih secara default.
Source Objects
Pilih satu atau lebih objek dari bagian Source Objects dan klik ikon
untuk menambahkan objek ke bagian Selected Objects.CatatanAnda dapat memilih kolom, tabel, atau database sebagai objek yang akan disinkronkan. Jika Anda memilih tabel atau kolom sebagai objek yang akan disinkronkan, DTS tidak menyinkronkan objek lainnya, seperti view, trigger, dan prosedur tersimpan, ke database tujuan.
Jika Anda memilih database sebagai objek yang akan disinkronkan, DTS menyinkronkan data berdasarkan aturan default berikut:
Jika tabel yang akan disinkronkan di database sumber memiliki primary key, seperti primary key satu kolom atau primary key komposit, kolom primary key ditentukan sebagai kunci distribusi.
Jika tabel yang akan disinkronkan di database sumber tidak memiliki primary key, kolom primary key auto-increment secara otomatis dihasilkan di tabel tujuan. Ini dapat menyebabkan ketidaksesuaian data antara database sumber dan tujuan.
Selected Objects
Untuk mengganti nama objek yang ingin Anda sinkronkan ke instans tujuan, klik kanan objek di bagian Selected Objects. Untuk informasi lebih lanjut, lihat bagian "Peta nama objek tunggal" dari topik Peta nama objek.
Untuk mengganti nama beberapa objek sekaligus, klik Batch Edit di sudut kanan atas bagian Selected Objects. Untuk informasi lebih lanjut, lihat bagian "Peta beberapa nama objek sekaligus" dari topik Peta nama objek.
CatatanUntuk memilih operasi SQL yang dilakukan pada database atau tabel tertentu, lakukan langkah-langkah berikut: Di bagian Selected Objects, klik kanan objek. Di kotak dialog yang muncul, pilih operasi SQL yang ingin Anda sinkronkan.
Untuk menentukan kondisi WHERE untuk memfilter data, klik kanan objek di bagian Selected Objects. Di kotak dialog yang muncul, tentukan kondisi. Untuk informasi lebih lanjut, lihat Tentukan kondisi filter.
Klik Next: Advanced Settings untuk mengonfigurasi pengaturan lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas ke klaster bersama jika Anda tidak menentukan klaster khusus. Jika Anda ingin meningkatkan stabilitas instans sinkronisasi data, beli klaster khusus. Untuk informasi lebih lanjut, lihat Apa itu Klaster Khusus DTS.
Retry Time for Failed Connections
Rentang waktu ulang untuk koneksi gagal. Jika database sumber atau tujuan gagal terhubung setelah tugas sinkronisasi data dimulai, DTS segera mencoba kembali koneksi dalam rentang waktu tersebut. Nilai valid: 10 hingga 1440. Unit: menit. Nilai default: 720. Kami sarankan Anda mengatur parameter ini ke nilai lebih dari 30. Jika DTS menyambung kembali ke database sumber dan tujuan dalam rentang waktu yang ditentukan, DTS melanjutkan tugas sinkronisasi data. Jika tidak, tugas sinkronisasi data gagal.
CatatanJika Anda menentukan rentang waktu ulang yang berbeda untuk beberapa tugas sinkronisasi data yang memiliki database sumber atau tujuan yang sama, rentang waktu ulang terpendek yang diambil.
Saat DTS mencoba kembali koneksi, Anda dikenakan biaya untuk instans DTS. Kami sarankan Anda menentukan rentang waktu ulang berdasarkan kebutuhan bisnis Anda. Anda juga dapat melepaskan instans DTS sesegera mungkin setelah instans sumber dan tujuan dilepaskan.
Retry Time for Other Issues
Rentang waktu ulang untuk masalah lainnya. Misalnya, jika operasi DDL atau DML gagal dilakukan setelah tugas sinkronisasi data dimulai, DTS segera mencoba kembali operasi dalam rentang waktu tersebut. Nilai valid: 1 hingga 1440. Unit: menit. Nilai default: 10. Kami sarankan Anda mengatur parameter ini ke nilai lebih dari 10. Jika operasi gagal berhasil dilakukan dalam rentang waktu yang ditentukan, DTS melanjutkan tugas sinkronisasi data. Jika tidak, tugas sinkronisasi data gagal.
PentingNilai parameter Retry Time for Other Issues harus lebih kecil dari nilai parameter Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Selama sinkronisasi data penuh, DTS menggunakan sumber daya baca dan tulis database sumber dan tujuan. Ini dapat meningkatkan beban pada server database. Anda dapat mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk tugas sinkronisasi data penuh untuk mengurangi beban pada server database tujuan.
CatatanAnda dapat mengonfigurasi parameter ini hanya jika Synchronization Types dipilih untuk parameter Full Data Synchronization.
Enable Throttling for Incremental Data Synchronization
Menentukan apakah akan mengaktifkan pembatasan untuk sinkronisasi data tambahan. Anda dapat mengaktifkan pembatasan untuk sinkronisasi data tambahan berdasarkan kebutuhan bisnis Anda. Untuk mengonfigurasi pembatasan, Anda harus mengonfigurasi parameter RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s) untuk mengurangi beban pada server database tujuan.
Environment Tag
Tag lingkungan yang digunakan untuk mengidentifikasi instans DTS. Anda dapat memilih tag lingkungan berdasarkan kebutuhan bisnis Anda. Dalam contoh ini, Anda tidak perlu memilih tag lingkungan.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Menentukan apakah akan menulis operasi SQL pada tabel denyut nadi ke database sumber saat instans DTS sedang berjalan. Nilai valid:
Yes: tidak menulis operasi SQL pada tabel denyut nadi. Dalam hal ini, latensi instans DTS mungkin ditampilkan.
No: menulis operasi SQL pada tabel denyut nadi. Dalam hal ini, fitur seperti pencadangan fisik dan kloning database sumber mungkin terpengaruh.
Configure ETL
Menentukan apakah akan mengaktifkan fitur ekstraksi, transformasi, dan pemuatan (ETL). Untuk informasi lebih lanjut, lihat Apa itu ETL? Nilai valid:
Yes: mengonfigurasi fitur ETL. Anda dapat memasukkan pernyataan pemrosesan data di editor kode. Untuk informasi lebih lanjut, lihat Konfigurasikan ETL dalam Tugas Migrasi Data atau Sinkronisasi Data.
No: tidak mengonfigurasi fitur ETL.
Monitoring and Alerting
Menentukan apakah akan mengonfigurasi peringatan untuk instans sinkronisasi data. Jika tugas gagal atau latensi sinkronisasi melebihi ambang batas yang ditentukan, kontak peringatan akan menerima notifikasi. Nilai valid:
No: tidak mengaktifkan peringatan.
Yes: mengonfigurasi peringatan. Dalam hal ini, Anda juga harus mengonfigurasi ambang batas peringatan dan pengaturan notifikasi peringatan. Untuk informasi lebih lanjut, lihat bagian "Konfigurasikan Pemantauan dan Peringatan saat Membuat Tugas DTS" dari topik Konfigurasikan Pemantauan dan Peringatan.
Opsional: Di bagian bawah halaman, klik Next: Configure Database and Table Fields. Di halaman yang muncul, konfigurasikan Type, Primary Key Column, Distribution Key dan informasi kunci partisi seperti Partition Key, Partitioning Rules, dan Partition Lifecycle untuk tabel yang akan disinkronkan di database tujuan.
CatatanAnda hanya dapat melakukan langkah ini jika Anda memilih Schema Synchronization untuk parameter Synchronization Types. Untuk memodifikasi parameter, atur parameter Definition Status ke All.
Di bidang Primary Key Column, Anda dapat menentukan beberapa kolom untuk membentuk primary key komposit. Dalam hal ini, Anda harus menentukan satu atau lebih kolom sebagai Distribution Key dan Partition Key. Untuk informasi lebih lanjut, lihat CREATE TABLE.
Simpan pengaturan tugas dan jalankan pra-pemeriksaan.
Untuk melihat parameter yang harus ditentukan saat Anda memanggil operasi API terkait untuk mengonfigurasi tugas DTS, gerakkan pointer ke Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters.
Jika Anda tidak perlu melihat atau telah melihat parameter tersebut, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
CatatanSebelum Anda dapat memulai tugas sinkronisasi data, DTS melakukan pra-pemeriksaan. Anda hanya dapat memulai tugas sinkronisasi data setelah tugas berhasil melewati pra-pemeriksaan.
Jika tugas sinkronisasi data gagal dalam pra-pemeriksaan, klik View Details di sebelah setiap item yang gagal. Setelah Anda menganalisis penyebab berdasarkan hasil pemeriksaan, atasi masalah tersebut. Lalu, jalankan kembali pra-pemeriksaan.
Jika peringatan dipicu untuk suatu item selama pra-pemeriksaan:
Jika item peringatan tidak dapat diabaikan, klik View Details di sebelah item yang gagal dan atasi masalah tersebut. Lalu, jalankan pra-pemeriksaan lagi.
Jika item peringatan dapat diabaikan, klik Confirm Alert Details. Di kotak dialog Lihat Detail, klik Ignore. Di pesan yang muncul, klik OK. Lalu, klik Precheck Again untuk menjalankan pra-pemeriksaan lagi. Jika Anda mengabaikan item peringatan, ketidaksesuaian data mungkin terjadi, dan bisnis Anda mungkin terpapar risiko potensial.
Beli instans sinkronisasi data.
Tunggu hingga Success Rate menjadi 100%. Lalu, klik Next: Purchase Instance.
Di halaman buy, konfigurasikan parameter Metode Penagihan dan Kelas Instans untuk tugas sinkronisasi data. Tabel berikut menjelaskan parameter.
Bagian
Parameter
Deskripsi
New Instance Class
Metode Penagihan
Langganan: Anda membayar langganan saat membuat instans sinkronisasi data. Metode penagihan langganan lebih hemat biaya daripada metode penagihan bayar sesuai pemakaian untuk penggunaan jangka panjang.
Bayar sesuai pemakaian: Instans bayar sesuai pemakaian ditagih per jam. Metode penagihan bayar sesuai pemakaian cocok untuk penggunaan jangka pendek. Jika Anda tidak lagi memerlukan instans sinkronisasi data bayar sesuai pemakaian, Anda dapat melepaskan instans untuk mengurangi biaya.
Pengaturan Grup Sumber Daya
Grup sumber daya tempat instans sinkronisasi data berada. Nilai default: default resource group. Untuk informasi lebih lanjut, lihat Apa itu Resource Management?
Kelas Instans
DTS menyediakan kelas instans yang bervariasi dalam kecepatan sinkronisasi. Anda dapat memilih kelas instans berdasarkan kebutuhan bisnis Anda. Untuk informasi lebih lanjut, lihat Kelas instans instans sinkronisasi data.
Durasi Langganan
Jika Anda memilih metode penagihan langganan, tentukan durasi langganan dan jumlah instans sinkronisasi data yang ingin Anda buat. Durasi langganan bisa satu hingga sembilan bulan, satu tahun, dua tahun, tiga tahun, atau lima tahun.
CatatanParameter ini tersedia hanya jika Anda memilih metode penagihan Subscription.
Baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
Klik Buy and Start. Di kotak dialog yang muncul, klik OK.
Anda dapat melihat kemajuan tugas di daftar tugas.