Data Transmission Service (DTS) mendukung sinkronisasi data dua arah secara real-time antara kluster PolarDB for PostgreSQL dan database PostgreSQL, seperti instans ApsaraDB RDS for PostgreSQL serta database PostgreSQL yang dikelola sendiri. Topik ini menjelaskan cara mengonfigurasi sinkronisasi data dua arah untuk instans ApsaraDB RDS for PostgreSQL. Prosedurnya serupa untuk sumber data lainnya.
Prasyarat
Kluster PolarDB for PostgreSQL telah dibuat sebagai sumber, dan instans ApsaraDB RDS for PostgreSQL telah dibuat sebagai tujuan. Untuk informasi selengkapnya, lihat Buat kluster database dan Buat instans ApsaraDB RDS for PostgreSQL.
CatatanUntuk informasi tentang versi database sumber dan tujuan yang didukung, lihat Ikhtisar skenario sinkronisasi data.
Database sumber dan tujuan harus memiliki kapasitas penyimpanan yang mencukupi.
Database telah dibuat di instans ApsaraDB RDS for PostgreSQL tujuan untuk menerima data. Untuk informasi selengkapnya, lihat Buat database.
Anda telah mengatur parameter
wal_levelkelogicalpada kluster sumber PolarDB for PostgreSQL dan instans tujuan ApsaraDB RDS for PostgreSQL. Untuk informasi selengkapnya, lihat Atur parameter kluster dan Atur parameter instans.
Catatan penggunaan
Saat menyinkronkan skema, DTS menyinkronkan kunci asing dari database sumber ke database tujuan.
Selama sinkronisasi data penuh dan inkremental, DTS secara sementara menonaktifkan pemeriksaan constraint dan operasi kaskade pada kunci asing di tingkat sesi. Jika terjadi pembaruan atau penghapusan secara kaskade di database sumber selama sinkronisasi, ketidakkonsistenan data dapat terjadi.
|
Type |
Description |
|
Batasan database sumber |
|
|
Batasan lainnya |
|
Penagihan
|
Jenis sinkronisasi |
Harga |
|
Sinkronisasi skema dan sinkronisasi data penuh |
Gratis. |
|
Sinkronisasi data inkremental |
Dikenai biaya. Untuk informasi selengkapnya, lihat Billing overview. |
Detect conflict yang didukung
Untuk memastikan konsistensi data, pastikan catatan data dengan primary key, business primary key, atau unique key yang sama hanya diperbarui di salah satu instans database dalam sinkronisasi dua arah. Jika catatan data diperbarui di kedua instans database, sistem DTS akan menerapkan kebijakan resolusi konflik yang dikonfigurasi dalam tugas.
DTS memeriksa dan memperbaiki konflik untuk memaksimalkan stabilitas tugas sinkronisasi dua arah. DTS dapat mendeteksi jenis konflik berikut:
-
Konflik keunikan akibat operasi INSERT
Dalam sinkronisasi dua arah, jika catatan dengan primary key yang sama dimasukkan ke kedua instans database secara bersamaan (atau hampir bersamaan), konflik constraint keunikan akan terpicu. Saat pernyataan INSERT disinkronkan ke instans pasangan, operasi tersebut gagal karena catatan dengan nilai primary key yang sama sudah ada.
-
Catatan tidak cocok dalam operasi UPDATE
-
Jika catatan yang akan diperbarui tidak ada di instans tujuan, DTS mengonversi operasi UPDATE menjadi operasi INSERT. Namun, hal ini dapat menyebabkan konflik keunikan.
-
Catatan yang akan diperbarui oleh operasi UPDATE menyebabkan konflik pada primary key atau unique key.
-
-
Catatan tidak ada untuk dihapus
Catatan yang akan dihapus tidak ada di instans tujuan. Dalam kasus ini, DTS mengabaikan operasi DELETE terlepas dari kebijakan resolusi konflik yang Anda tentukan.
-
Karena perbedaan waktu dan latensi, DTS tidak dapat menjamin pencegahan konflik 100%. Untuk memastikan konsistensi, perbarui catatan dengan primary key atau unique key yang sama hanya di satu instans database dalam satu waktu.
-
DTS menyediakan berbagai strategi resolusi konflik untuk konflik data tersebut, yang dapat Anda pilih saat mengonfigurasi sinkronisasi data dua arah.
Objek yang didukung
Skema dan tabel
Ini mencakup primary key, unique key, foreign key, tipe data bawaan, dan constraint default.
Saat jenis database ini digunakan sebagai sumber, fitur yang didukung dapat bervariasi tergantung pada jenis database target. Lihat Konsol untuk detail spesifik.
Operasi SQL yang didukung
Pernyataan DDL hanya disinkronkan dalam tugas maju (sumber ke tujuan). Tugas balik secara otomatis memfilter pernyataan DDL.
Saat mengeksekusi DDL untuk memodifikasi skema tabel selama sinkronisasi dua arah, pastikan penulisan DML di kedua database konsisten dengan skema baru. Misalnya, jika Anda menghapus kolom dari sumber, tujuan mungkin masih menulis data berdasarkan skema lama yang mencakup kolom yang dihapus, sehingga menyebabkan kegagalan.
Jenis operasi | Pernyataan SQL |
DML | INSERT, UPDATE, DELETE |
DDL |
Penting
|
Izin akun database
Jenis database | Izin yang diperlukan | Referensi |
PolarDB for PostgreSQL | Akun istimewa yang memiliki database. | |
RDS PostgreSQL | Akun istimewa yang memiliki database. | Buat akun dan Buat database. |
Prosedur
Beli instans sinkronisasi dua arah. Untuk informasi selengkapnya, lihat Beli instans DTS.
PentingDi halaman pembelian, atur Function ke Data Synchronization, Source Instance ke PolarDB for PostgreSQL, Destination Instance ke PostgreSQL, dan Synchronization Topology ke Two-way Synchronization. Konfigurasi parameter lainnya sesuai kebutuhan bisnis Anda.
-
Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:
Dari Konsol DTS
-
Login ke Data Transmission Service (DTS) console.
-
Di panel navigasi kiri, klik Data Synchronization.
-
Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat bervariasi tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Simple mode dan Customize the layout and style of the DMS interface.
-
Login ke Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.
-
Temukan instans sinkronisasi dua arah yang telah Anda buat. Di kolom Actions tugas maju, klik Configure Task.
Konfigurasikan database sumber dan tujuan.
Bagian
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami menyarankan agar Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tersebut tidak harus unik.
Source Database
Select Existing Connection
-
Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..
-
Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan secara manual informasi database berikut.
Database Type
Pilih PolarDB for PostgreSQL.
Access Method
Pilih Alibaba Cloud Instance.
Instance Region
Nilai ini tetap ke wilayah yang Anda pilih saat membeli instans. Anda tidak dapat mengubah nilai ini.
Replicate Data Across Alibaba Cloud Accounts
Contoh ini menggunakan instans database yang dimiliki oleh Akun Alibaba Cloud saat ini. Pilih No.
Instance ID
Pilih ID instans kluster PolarDB for PostgreSQL sumber.
Database Name
Masukkan nama database yang berisi objek yang akan disinkronkan di kluster PolarDB for PostgreSQL sumber.
Database Account
Masukkan akun database kluster PolarDB for PostgreSQL sumber. Untuk informasi tentang persyaratan izin, lihat Permission requirements for database accounts.
Database Password
Masukkan password yang sesuai dengan akun database.
Destination Database
Select Existing Connection
-
Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..
-
Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan secara manual informasi database berikut.
Database Type
Pilih PostgreSQL.
Access Method
Pilih Alibaba Cloud Instance.
Instance Region
Nilai ini tetap ke wilayah yang Anda pilih saat membeli instans. Anda tidak dapat mengubah nilai ini.
Instance ID
Pilih ID instans ApsaraDB RDS for PostgreSQL tujuan.
Database Name
Masukkan nama database yang digunakan untuk menerima data di instans ApsaraDB RDS for PostgreSQL tujuan.
Database Account
Masukkan akun database instans ApsaraDB RDS for PostgreSQL tujuan. Untuk informasi tentang persyaratan izin, lihat Permission requirements for database accounts.
Database Password
Masukkan password yang sesuai dengan akun database.
Encryption
Tentukan apakah akan mengenkripsi koneksi ke database sumber. Anda dapat mengonfigurasi parameter ini sesuai kebutuhan bisnis Anda. Dalam contoh ini, Non-encrypted dipilih.
Jika Anda ingin membuat koneksi terenkripsi SSL ke database sumber, lakukan langkah-langkah berikut: Pilih SSL-encrypted, unggah CA Certificate, Client Certificate, dan Private Key of Client Certificate sesuai kebutuhan, lalu tentukan Private Key Password of Client Certificate.
Catatan-
Jika Anda mengatur Encryption ke SSL-encrypted untuk database PostgreSQL yang dikelola sendiri, Anda harus mengunggah CA Certificate.
-
Jika Anda ingin menggunakan sertifikat klien, Anda harus mengunggah Client Certificate dan Private Key of Client Certificate serta menentukan Private Key Password of Client Certificate.
-
Untuk informasi tentang cara mengonfigurasi enkripsi SSL untuk instans ApsaraDB RDS for PostgreSQL, lihat SSL encryption.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan-
Pastikan blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Jika database sumber atau tujuan adalah database yang dikelola sendiri (di mana Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers.
-
Konfigurasikan objek tugas.
Di halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.
Parameter
Deskripsi
Synchronization Types
Incremental Data Synchronization dipilih. Secara default, Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah Pemeriksaan Awal selesai, DTS melakukan sinkronisasi data penuh objek yang dipilih dari instans sumber ke kluster tujuan. Ini berfungsi sebagai data garis dasar untuk sinkronisasi data inkremental berikutnya.
Exclude DDL Operations
Pilih Yes untuk mengecualikan operasi DDL dari sinkronisasi.
Pilih No untuk menyinkronkan operasi DDL.
PentingUntuk memastikan stabilitas tautan sinkronisasi dua arah, Anda dapat memilih apakah akan menyinkronkan operasi DDL hanya untuk tugas maju (dari database sumber ke database tujuan). Tugas balik (dari database tujuan ke database sumber) secara otomatis mengecualikan operasi DDL.
Global Conflict Resolution Policy
Pilih kebijakan resolusi konflik sesuai kebutuhan bisnis Anda.
-
TaskFailed (If a conflict occurs, an error is reported and the task is stopped)
Jika terjadi konflik data selama sinkronisasi, tugas melaporkan kesalahan dan berhenti. Tugas masuk ke status Gagal dan memerlukan intervensi manual.
-
Ignore (If a conflict occurs, the conflicting record in the destination instance is used)
Jika terjadi konflik data selama sinkronisasi, pernyataan sinkronisasi saat ini dilewati dan proses berlanjut. Catatan yang bertentangan di database tujuan dipertahankan.
-
Overwrite (If a conflict occurs, the conflicting record in the destination instance is overwritten)
Jika terjadi konflik data selama sinkronisasi, catatan yang bertentangan di database tujuan ditimpa.
CatatanUntuk informasi tentang jenis konflik yang didukung, lihat Supported conflict detection.
Jika tugas sinkronisasi dijeda atau dimulai ulang dan terjadi latensi, kebijakan ini tidak berlaku selama periode latensi. Secara default, data di database tujuan ditimpa.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tabel dengan nama yang sama tidak ada, pemeriksaan awal lolos. Jika tabel dengan nama yang sama ada, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dimulai.
CatatanJika Anda tidak dapat menghapus atau mengganti nama tabel dengan nama yang sama di database tujuan, Anda dapat memetakannya ke nama tabel yang berbeda. Untuk informasi selengkapnya, lihat Map table and column names.
-
Ignore Errors and Proceed: Melewati pemeriksaan nama tabel duplikat di database tujuan.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan membahayakan bisnis Anda. Misalnya:
-
Jika skema tabel sama dan catatan di database tujuan memiliki nilai primary key atau unique key yang sama dengan catatan di database sumber:
-
Selama sinkronisasi penuh, DTS mempertahankan catatan di kluster tujuan. Catatan yang sesuai dari database sumber tidak disinkronkan.
-
Selama sinkronisasi inkremental, catatan dari database sumber menimpa catatan di database tujuan.
-
-
Jika skema tabel berbeda, sinkronisasi data awal dapat gagal. Hal ini dapat mengakibatkan hanya data kolom parsial yang disinkronkan atau kegagalan sinkronisasi total. Lakukan dengan hati-hati.
-
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan sensitivitas huruf besar/kecil untuk nama objek yang dimigrasi, seperti database, tabel, dan kolom, di instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menjaga sensitivitas huruf besar/kecil konsisten dengan kebijakan default database sumber atau tujuan. Untuk informasi selengkapnya, lihat Case sensitivity of object names in the destination database.
Source Objects
Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanAnda dapat memilih skema atau tabel sebagai objek sinkronisasi. Jika Anda memilih tabel, objek lain seperti view, trigger, dan stored procedure tidak disinkronkan ke database tujuan.
Jika tabel yang akan disinkronkan berisi kolom SERIAL dan Synchronization Types dipilih Schema Synchronization, disarankan agar Anda juga memilih Sequence atau Full Schema Synchronization.
Selected Objects
Untuk mengubah nama objek di instans tujuan, klik kanan objek di kotak Selected Objects dan modifikasi namanya. Untuk informasi selengkapnya, lihat Map table and column names.
Untuk menghapus objek, klik objek di kotak Selected Objects, lalu klik
untuk memindahkannya kembali ke kotak Source Objects.
CatatanJika Anda menggunakan fitur pemetaan nama objek, objek lain yang bergantung pada objek yang dipetakan mungkin gagal disinkronkan.
Untuk memfilter data menggunakan klausa WHERE, klik kanan tabel di kotak Selected Objects dan tentukan kondisi filter di kotak dialog yang muncul. Untuk informasi selengkapnya, lihat Set filter conditions.
Untuk memilih operasi SQL untuk sinkronisasi inkremental, klik kanan objek di kotak Selected Objects dan pilih operasi SQL yang diperlukan di kotak dialog yang muncul.
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas di kluster bersama, dan Anda tidak perlu memilih kluster. Untuk kinerja yang lebih stabil, Anda dapat membeli kluster khusus untuk menjalankan tugas sinkronisasi DTS. Untuk informasi selengkapnya, lihat What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan kesalahan dan segera memulai percobaan ulang koneksi. Durasi percobaan ulang default adalah 720 menit. Anda juga dapat menentukan durasi percobaan ulang kustom antara 10 hingga 1.440 menit. Kami menyarankan agar Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi secara otomatis dilanjutkan. Jika tidak, tugas gagal.
Catatan-
Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu percobaan ulang jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, durasi yang lebih pendek yaitu 30 menit digunakan untuk keduanya.
-
Karena DTS membebankan biaya untuk waktu proses tugas selama periode percobaan ulang koneksi, kami menyarankan agar Anda menyesuaikan durasi percobaan ulang sesuai kebutuhan bisnis atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-konektivitas lainnya dengan database sumber atau tujuan (seperti pengecualian eksekusi DDL atau DML), DTS melaporkan kesalahan dan segera memulai operasi percobaan ulang berkelanjutan. Durasi percobaan ulang default adalah 10 menit. Anda juga dapat menyesuaikan durasi percobaan ulang dalam rentang 1 hingga 1.440 menit. Kami menyarankan agar Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditetapkan, tugas sinkronisasi secara otomatis dilanjutkan. Jika tidak, tugas gagal.
PentingNilai untuk Retry Time for Other Issues harus kurang dari nilai untuk Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s).
Catatan-
Item konfigurasi ini tersedia hanya ketika Synchronization Types diatur ke Full Data Synchronization.
-
Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi berjalan.
Enable Throttling for Incremental Data Synchronization
Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Anda dapat memilih tag lingkungan untuk mengidentifikasi instans sesuai kebutuhan Anda. Contoh ini tidak memerlukan konfigurasi ini.
Configure ETL
Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi selengkapnya, lihat What is ETL? Nilai yang valid:
-
Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Configure ETL in a data migration or data synchronization task.
-
No: Menonaktifkan fitur ETL.
-
-
Klik Next: Data Validation untuk mengonfigurasi tugas validasi data.
Jika Anda ingin menggunakan fitur validasi data, lihat Configure data validation untuk instruksi konfigurasi.
-
Simpan tugas dan jalankan pemeriksaan awal.
-
Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung.
-
Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Pekerjaan hanya dapat dimulai setelah semua item pemeriksaan awal lolos.
-
Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan pemeriksaan awal lagi.
-
Jika pemeriksaan awal mengembalikan peringatan:
-
Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti petunjuk untuk memperbaiki masalah, lalu jalankan pemeriksaan awal lagi.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan pemeriksaan awal lagi. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.
-
-
Saat Success Rate untuk pemeriksaan awal adalah 100%, klik Back.
Konfigurasikan tugas sinkronisasi balik.
Tunggu hingga tugas sinkronisasi maju menyelesaikan inisialisasi hingga Status-nya menjadi Running.
Di kolom Actions tugas balik, klik Configure Task.
Ulangi prosedur di Langkah 4 hingga Langkah 7 untuk mengonfigurasi tugas sinkronisasi balik.
PentingSaat mengonfigurasi tugas sinkronisasi data dalam arah balik, pastikan Anda memilih instans sumber dan tujuan yang benar. Instans sumber dalam arah balik adalah instans tujuan dalam arah maju, sedangkan instans tujuan dalam arah balik adalah instans sumber dalam arah maju. Pastikan juga bahwa pengaturan parameter seperti nama database, akun, dan kata sandi konsisten.
Saat mengonfigurasi database sumber dan tujuan tugas sinkronisasi data dalam arah balik, parameter Instance Region tidak dapat dimodifikasi. Jumlah parameter yang perlu dikonfigurasi untuk tugas sinkronisasi data dalam arah balik lebih sedikit daripada untuk tugas sinkronisasi data dalam arah maju. Konfigurasikan parameter yang ditampilkan di Konsol.
Saat DTS memeriksa tabel yang bertentangan dalam arah balik, tabel yang telah disinkronkan ke instans tujuan dalam arah maju diabaikan dalam Processing Mode of Conflicting Tables.
Anda tidak dapat memilih Selected Objects tugas sinkronisasi data dalam arah maju untuk tugas sinkronisasi data dalam arah balik.
Kami menyarankan agar Anda tidak menggunakan fitur pemetaan nama objek saat mengonfigurasi tugas sinkronisasi data dalam arah balik. Jika digunakan, ketidakkonsistenan data dapat terjadi.
Saat Success Rate untuk pemeriksaan awal adalah 100%, klik Back.
Setelah tugas sinkronisasi balik dikonfigurasi, tunggu hingga Status kedua tugas maju dan balik menjadi Running. Hal ini menunjukkan bahwa sinkronisasi data dua arah berhasil dikonfigurasi.