Anda dapat menggunakan DTS untuk mengalirkan data dari instans AnalyticDB for PostgreSQL ke instans Message Queue for Apache Kafka.
Fitur ini sedang dalam pengujian beta. Untuk menggunakannya, silakan Submit a ticket untuk meminta akses.
Lingkup
Anda harus membuat topik di instans target Message Queue for Apache Kafka untuk menerima data yang disinkronkan. Untuk informasi lebih lanjut, lihat Langkah 1: Buat topik.
Instans target Message Queue for Apache Kafka harus memiliki ruang penyimpanan lebih besar daripada yang digunakan oleh instans sumber AnalyticDB for PostgreSQL.
Catatan penggunaan
Batasan sumber
|
Type |
Limits |
|
Sebelum sinkronisasi |
|
|
Selama sinkronisasi |
|
Batasan tujuan
|
Type |
Limits |
|
Sebelum sinkronisasi |
|
|
Selama sinkronisasi |
|
|
SQL sinkronisasi yang didukung |
|
|
Objek sinkronisasi yang didukung |
|
Harga
|
Jenis sinkronisasi |
Biaya |
|
Sinkronisasi skema dan sinkronisasi penuh |
Gratis. |
|
Sinkronisasi inkremental |
Dikenakan biaya. Lihat ikhtisar penagihan. |
Prosedur
-
Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:
Dari Konsol DTS
-
Login ke Data Transmission Service (DTS) console.
-
Di panel navigasi kiri, klik Data Synchronization.
-
Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi lebih lanjut, lihat Simple mode dan Customize the layout and style of the DMS interface.
-
Login ke Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.
-
Klik Create Task untuk membuka halaman konfigurasi tugas.
Konfigurasikan database sumber dan tujuan.
Kategori
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tidak harus unik.
Source Database
Select Existing Connection
-
Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..
-
Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan manual informasi database berikut.
Database Type
Pilih AnalyticDB for PostgreSQL.
Access Method
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah instans sumber AnalyticDB for PostgreSQL.
Replicate Data Across Alibaba Cloud Accounts
Dalam contoh ini, data disinkronkan dalam satu Akun Alibaba Cloud. Pilih No.
Instance ID
Pilih ID instans dari instans sumber AnalyticDB for PostgreSQL.
Database Name
Masukkan nama database sumber yang akan disinkronkan.
Database Account
Masukkan akun database dari instans sumber AnalyticDB for PostgreSQL. Akun tersebut harus memiliki izin baca pada objek yang akan disinkronkan.
Database Password
Masukkan password yang sesuai dengan akun database tersebut.
Destination Database
Select Existing Connection
-
Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..
-
Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan manual informasi database berikut.
Database Type
Pilih Kafka.
Access Method
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah instans target Message Queue for Apache Kafka.
Kafka Instance ID
Pilih ID instans dari instans target Message Queue for Apache Kafka.
Encryption
Berdasarkan kebutuhan bisnis dan keamanan Anda, pilih Non-encrypted atau SCRAM-SHA-256.
Topic
Pilih topik untuk menerima data yang disinkronkan.
Use Kafka Schema Registry
Kafka Schema Registry menyediakan antarmuka RESTful untuk menyimpan dan mengambil skema Avro.
No: Tidak menggunakan registri skema Kafka.
Yes: Menggunakan registri skema Kafka. Anda harus memasukkan URL atau alamat IP tempat skema Avro didaftarkan di registri skema Kafka.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan-
Pastikan Blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi lebih lanjut, lihat Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Jika database sumber atau tujuan adalah database yang dikelola sendiri (di mana Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers.
-
Konfigurasikan objek tugas.
Di halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.
Parameter
Deskripsi
Synchronization Types
Incremental Data Synchronization dipilih. Secara default, Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah pemeriksaan awal selesai, DTS melakukan sinkronisasi data penuh objek yang dipilih dari instans sumber ke klaster tujuan. Ini berfungsi sebagai garis dasar data untuk sinkronisasi data inkremental selanjutnya.
CatatanKetika Access Method untuk instans Kafka target diatur ke Alibaba Cloud Instance, Schema Synchronization tidak didukung.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, pemeriksaan awal lolos. Jika ada tabel dengan nama yang sama, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dimulai.
CatatanJika Anda tidak dapat menghapus atau mengganti nama tabel dengan nama yang sama di database tujuan, Anda dapat memetakannya ke nama tabel yang berbeda. Untuk informasi lebih lanjut, lihat Map table and column names.
-
Ignore Errors and Proceed: Melewati pemeriksaan nama tabel duplikat di database tujuan.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan membahayakan bisnis Anda. Misalnya:
-
Jika skema tabel sama dan catatan di database tujuan memiliki nilai kunci primer atau kunci unik yang sama dengan catatan di database sumber:
-
Selama sinkronisasi penuh, DTS mempertahankan catatan di klaster tujuan. Catatan yang sesuai dari database sumber tidak disinkronkan.
-
Selama sinkronisasi inkremental, catatan dari database sumber menimpa catatan di database tujuan.
-
-
Jika skema tabel berbeda, sinkronisasi data awal mungkin gagal. Hal ini dapat mengakibatkan hanya data kolom parsial yang disinkronkan atau kegagalan sinkronisasi total. Lakukan dengan hati-hati.
-
Data Format in Kafka
Pilih format untuk menyimpan data yang disinkronkan ke instans Kafka.
Jika Anda memilih DTS Avro, Anda harus mengurai data berdasarkan definisi skema DTS Avro. Untuk informasi lebih lanjut, lihat DTS Avro schema definition dan DTS Avro deserialization examples.
Jika Anda memilih Canal JSON, lihat Canal JSON format untuk deskripsi parameter dan contoh.
Kafka Data Compression Format
Pilih format kompresi untuk pesan Kafka.
LZ4 (Default): Rasio kompresi rendah, kecepatan kompresi tinggi.
GZIP: Rasio kompresi tinggi, kecepatan kompresi rendah.
CatatanFormat ini memiliki overhead CPU tinggi.
Snappy: Rasio kompresi menengah, kecepatan kompresi menengah.
Policy for Shipping Data to Kafka Partitions
Pilih strategi berdasarkan kebutuhan bisnis Anda.
Message acknowledgement mechanism
Pilih mekanisme acknowledgment pesan berdasarkan kebutuhan bisnis Anda.
Topic That Stores DDL Information
Pilih topik untuk menyimpan informasi DDL.
CatatanJika Anda tidak memilih topik, informasi DDL disimpan di topik penerima data secara default.
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan case sensitivity untuk nama objek database, tabel, dan kolom yang disinkronkan ke instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menggunakan kebijakan default database sumber dan tujuan. Untuk informasi lebih lanjut, lihat Case sensitivity policy for destination object names.
Source Objects
Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanAnda dapat memilih objek pada level tabel.
Selected Objects
Tidak diperlukan konfigurasi tambahan. Anda dapat menggunakan fitur pemetaan untuk mengatur nama topik, jumlah partisi topik, atau nama kolom untuk tabel sumber di instans Kafka target.
CatatanUntuk memilih operasi SQL yang akan disinkronkan pada level skema atau tabel, klik kanan objek di panel Selected Objects dan pilih operasi SQL yang diinginkan di kotak dialog yang muncul.
Jika Anda menggunakan fitur pemetaan nama objek, objek lain yang bergantung pada objek yang dipetakan mungkin gagal disinkronkan.
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas di kluster bersama, sehingga Anda tidak perlu memilih klaster. Untuk kinerja yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas sinkronisasi DTS. Untuk informasi selengkapnya, lihat What is a DTS dedicated cluster?.
Enable Encryption of Data In-Transit?
Transmisi data terenkripsi dapat memengaruhi kinerja sinkronisasi. Aktifkan fitur ini sesuai kebutuhan keamanan Anda.
No (Default)
Yes
Retry Time for Failed Connections
Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS akan melaporkan error dan segera mencoba koneksi ulang. Durasi retry default adalah 720 menit. Anda juga dapat menentukan durasi retry kustom antara 10 hingga 1.440 menit. Kami menyarankan agar Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal.
Catatan-
Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu retry jaringan menjadi 30 menit untuk Instans A serta 60 menit untuk Instans B, maka durasi retry yang lebih pendek, yaitu 30 menit, akan diterapkan untuk keduanya.
-
Karena DTS mengenakan biaya berdasarkan waktu proses tugas selama periode retry koneksi, kami menyarankan agar Anda menyesuaikan durasi retry sesuai kebutuhan bisnis atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-koneksi lainnya pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS akan melaporkan error dan segera memulai operasi retry berkelanjutan. Durasi retry default adalah 10 menit. Anda juga dapat menyesuaikan durasi retry dalam rentang 1 hingga 1.440 menit. Kami menyarankan agar Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi retry yang ditetapkan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal.
PentingNilai untuk Retry Time for Other Issues harus lebih kecil daripada nilai untuk Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s).
Catatan-
Item konfigurasi ini tersedia hanya ketika Synchronization Types diatur ke Full Data Synchronization.
-
Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi berjalan.
Enable Throttling for Incremental Data Synchronization
Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Anda dapat memilih tag lingkungan untuk mengidentifikasi instans sesuai kebutuhan. Tidak perlu pemilihan untuk contoh ini.
Scene Label
Anda dapat memilih tag skenario untuk mengidentifikasi instans sesuai kebutuhan. Tag skenario tidak memengaruhi operasi normal tugas. Tidak perlu pemilihan untuk contoh ini.
Configure ETL
Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi selengkapnya, lihat What is ETL? Nilai yang valid:
-
Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Configure ETL in a data migration or data synchronization task.
-
No: Menonaktifkan fitur ETL.
Monitoring and Alerting
Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi akan dikirim ke kontak peringatan.
-
No: Tidak ada peringatan yang dikonfigurasi.
-
Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan menentukan pemberitahuan peringatan. Untuk informasi selengkapnya, lihat Configure monitoring and alerting during task configuration.
-
Simpan tugas dan jalankan pemeriksaan awal.
-
Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di balon info.
-
Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Pekerjaan hanya dapat dimulai setelah semua item pemeriksaan awal lolos.
-
Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan kembali pemeriksaan awal.
-
Jika pemeriksaan awal mengembalikan peringatan:
-
Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti petunjuk untuk memperbaiki masalah, lalu jalankan kembali pemeriksaan awal.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.
-
-
Beli instans.
-
Ketika Success Rate mencapai 100%, klik Next: Purchase Instance.
-
Di halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instans sinkronisasi data. Tabel berikut menjelaskan parameter-parameter ini secara detail.
Kategori
Parameter
Deskripsi
New Instance Class
Billing Method
-
Subscription: Anda membayar saat membuat instans. Metode ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya dibandingkan bayar sesuai penggunaan. Semakin lama durasi langganan, semakin tinggi diskon yang diberikan.
-
Pay-as-you-go: Anda dikenakan biaya per jam. Metode ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah digunakan untuk menghemat biaya.
Resource Group Configuration
Instans ditempatkan dalam kelompok sumber daya tertentu. Secara default, instans menggunakan kelompok sumber daya default. Untuk informasi selengkapnya, lihat What is Resource Management?.
Link Specification
DTS menyediakan spesifikasi sinkronisasi dengan tingkat kinerja berbeda. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Pilih spesifikasi yang sesuai dengan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Data synchronization link specifications.
Subscription Duration
Dalam mode subscription, pilih durasi langganan dan jumlah instans. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan atau langganan tahunan selama 1, 2, 3, atau 5 tahun.
CatatanOpsi ini hanya tersedia ketika metode penagihan adalah Subscription.
-
-
Setelah menyelesaikan konfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
-
Klik Buy and Start. Di kotak dialog OK, klik OK.
Anda dapat melihat progres tugas di halaman Data Synchronization.
-
FAQ
Apakah saya dapat mengubah Kafka Data Compression Format?
Ya, Anda dapat menggunakan fitur Modify Synchronization Objects untuk melakukan perubahan tersebut.
Apakah saya dapat mengubah Message acknowledgement mechanism?
Ya, Anda dapat menggunakan fitur Modify Synchronization Objects untuk melakukan perubahan tersebut.