Gunakan Data Transmission Service (DTS) untuk menyinkronkan data dari Db2 for LUW ke klaster Kafka yang dikelola sendiri.
Prasyarat
-
Anda telah membuat klaster Kafka tujuan yang dikelola sendiri.
CatatanUntuk versi database sumber dan tujuan yang didukung, lihat ikhtisar solusi sinkronisasi.
-
Jika diperlukan sinkronisasi data penuh, ruang penyimpanan database tujuan harus lebih besar daripada ruang penyimpanan database sumber.
Batasan
DTS tidak menyinkronkan kunci asing dari database sumber ke database tujuan. Oleh karena itu, operasi cascade dan delete pada database sumber tidak disinkronkan ke database tujuan.
Jenis batasan | Deskripsi |
Batasan pada database sumber |
|
Batasan lainnya |
|
Kasus khusus |
|
Penagihan
|
Jenis sinkronisasi |
Harga |
|
Sinkronisasi skema dan sinkronisasi data penuh |
Gratis. |
|
Sinkronisasi data inkremental |
Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan. |
Topologi sinkronisasi
-
Sinkronisasi satu arah satu-ke-satu
-
Sinkronisasi satu arah satu-ke-banyak
-
Sinkronisasi satu arah cascade
-
Sinkronisasi satu arah banyak-ke-satu
Untuk detail tentang topologi sinkronisasi, lihat Topologi Sinkronisasi Data.
Operasi SQL yang didukung
|
Jenis |
Pernyataan SQL |
|
DML |
INSERT, UPDATE, dan DELETE |
Prasyarat
-
Buat akun dan berikan izin.
Database
Izin yang diperlukan
Tindakan
Db2 for LUW
Izin DBADM
-
Aktifkan fitur pengarsipan log untuk database Db2 for LUW. Untuk informasi selengkapnya, lihat logarchmeth1 - Primary log archive method configuration parameter dan logarchmeth2 - Secondary log archive method configuration parameter.
Prosedur
-
Buka halaman daftar task sinkronisasi di Wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:
Dari Konsol DTS
-
Login ke Konsol Data Transmission Service (DTS).
-
Di panel navigasi sebelah kiri, klik Data Synchronization.
-
Di pojok kiri atas halaman, pilih Wilayah tempat instans sinkronisasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Simple mode dan Customize the layout and style of the DMS interface.
-
Login ke Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instance sinkronisasi berada.
-
-
Klik Create Task untuk membuka halaman konfigurasi task.
-
Konfigurasikan database sumber dan tujuan.
Kategori
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama task. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tersebut tidak harus unik.
Source Database
Select Existing Connection
-
Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..
-
Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan manual informasi database berikut.
Database Type
Pilih DB2 for LUW.
Connection Type
Pilih jenis koneksi berdasarkan lokasi deployment database sumber. Dalam contoh ini, Self-managed Database on ECS digunakan.
CatatanJika instans sumber adalah database yang dikelola sendiri, Anda harus menyelesaikan persiapan yang diperlukan. Untuk informasi selengkapnya, lihat Preparation overview.
Instance Region
Pilih Wilayah tempat database Db2 for LUW berada.
Replicate Data Across Alibaba Cloud Accounts
Contoh ini menggunakan instans database yang dimiliki oleh Akun Alibaba Cloud saat ini. Pilih No.
ECS Instance ID
Masukkan ID Instance ECS yang menghosting database DB2 for LUW.
Port
Masukkan port layanan database Db2 for LUW. Port default adalah 50000.
Database Name
Masukkan nama database Db2 for LUW yang berisi objek yang akan disinkronkan.
Database Account
Masukkan akun database Db2 for LUW. Untuk informasi tentang izin yang diperlukan, lihat Buat akun dan berikan izin.
Database Password
Masukkan kata sandi yang sesuai dengan akun database.
Destination Database
Select Existing Connection
-
Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..
-
Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan manual informasi database berikut.
Database Type
Pilih Kafka.
Connection Type
Pilih jenis koneksi berdasarkan lokasi deployment database tujuan. Dalam contoh ini, Self-managed Database on ECS digunakan.
CatatanJika instans tujuan adalah database yang dikelola sendiri, Anda harus menyelesaikan persiapan yang diperlukan. Untuk informasi selengkapnya, lihat Preparation overview.
Instance Region
Pilih Wilayah tempat klaster Kafka tujuan dideploy.
ECS Instance ID
Pilih ID Instance ECS tempat klaster Kafka dideploy.
CatatanJika instans Kafka dideploy sebagai klaster, pilih ID Instance ECS dari node mana pun. DTS secara otomatis mengambil informasi topik dari semua node dalam klaster.
Port
Masukkan port layanan klaster Kafka yang dikelola sendiri. Port default adalah 9092.
Database Account
Masukkan username klaster Kafka yang dikelola sendiri. Jika otentikasi dinonaktifkan, biarkan parameter ini kosong.
Database Password
Masukkan kata sandi untuk akun database. Jika otentikasi dinonaktifkan, biarkan parameter ini kosong.
Kafka Version
Pilih versi klaster Kafka yang dikelola sendiri Anda.
Encryption
Pilih Non-encrypted atau SCRAM-SHA-256 berdasarkan kebutuhan bisnis dan keamanan Anda.
Topic
Pilih topik tempat data ditulis.
Use Kafka Schema Registry
Kafka Schema Registry menyediakan antarmuka RESTful untuk menyimpan dan mengambil skema Avro.
-
No: Jangan gunakan Kafka Schema Registry.
-
Yes: Gunakan Kafka Schema Registry. Anda harus memasukkan URL atau alamat IP yang terdaftar di Kafka Schema Registry untuk skema Avro Anda.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman. Di kotak dialog CIDR Blocks of DTS Servers, klik Test Connectivity.
CatatanPastikan Blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Add the IP address CIDR blocks of DTS servers to a whitelist.
-
Konfigurasikan objek task.
-
Di halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.
Parameter
Deskripsi
Synchronization Types
Jenis sinkronisasi. Secara default, Incremental Data Synchronization dipilih. Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah Pemeriksaan Awal selesai, DTS menyinkronkan data historis objek yang dipilih dari database sumber ke klaster tujuan. Data historis ini menjadi dasar untuk sinkronisasi inkremental selanjutnya.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: DTS memeriksa tabel di database tujuan dengan nama yang sama. Jika ditemukan nama tabel yang cocok, Pemeriksaan Awal gagal dan task tidak dimulai. Jika tidak, pemeriksaan berhasil.
CatatanJika Anda tidak dapat dengan mudah menghapus atau mengganti nama tabel yang bertentangan di database tujuan, Anda dapat memetakan tabel tersebut ke nama yang berbeda. Untuk informasi selengkapnya, lihat Map table and column names.
-
Ignore Errors and Proceed: Melewati pemeriksaan tabel dengan nama yang sama di database tujuan.
PeringatanJika Anda memilih Ignore Errors and Proceed, ketidakkonsistenan data dapat terjadi, yang menimbulkan risiko bagi bisnis Anda. Misalnya:
-
Jika skema tabel konsisten dan database tujuan memiliki catatan dengan nilai kunci primer yang sama dengan catatan di database sumber:
-
Selama sinkronisasi data penuh, DTS tidak menimpa catatan yang ada di database tujuan. Catatan yang sesuai dari database sumber dilewati.
-
Selama sinkronisasi data inkremental, catatan dari database sumber menimpa catatan yang ada di database tujuan.
-
-
Jika skema tabel tidak konsisten, task mungkin gagal, atau hanya sebagian data yang disinkronkan.
-
Data Format in Kafka
Pilih format data untuk pengiriman Kafka. Untuk informasi selengkapnya, lihat Data storage formats in message queues.
Kafka Data Compression Format
Pilih format kompresi untuk kompresi pesan Kafka berdasarkan kebutuhan bisnis Anda.
LZ4 (default): Rasio kompresi rendah, tetapi kecepatan kompresi tinggi.
GZIP: Rasio kompresi tinggi, tetapi kecepatan kompresi rendah.
CatatanKonsumsi CPU tinggi.
Snappy: Rasio kompresi dan kecepatan kompresi sedang.
Policy for Shipping Data to Kafka Partitions
Pilih strategi berdasarkan kebutuhan bisnis Anda.
Message acknowledgement mechanism
Pilih mekanisme acknowledgment pesan berdasarkan kebutuhan bisnis Anda.
Topic That Stores DDL Information
Pilih topik yang digunakan untuk menyimpan informasi DDL dari daftar drop-down.
CatatanJika tidak ditentukan, informasi DDL disimpan di topik yang menerima data secara default.
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan sensitivitas huruf besar/kecil untuk nama objek database, tabel, dan kolom yang disinkronkan ke instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menggunakan kebijakan default database sumber dan tujuan. Untuk informasi selengkapnya, lihat Case sensitivity policy for destination object names.
Source Objects
Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanAnda dapat memilih database, tabel, dan kolom sebagai objek sinkronisasi. Jika Anda memilih tabel atau kolom, objek lain seperti tampilan, pemicu, dan prosedur tersimpan tidak disinkronkan ke database tujuan.
Selected Objects
Tidak diperlukan konfigurasi tambahan dalam contoh ini. Anda dapat menggunakan fitur pemetaan untuk mengonfigurasi nama topik, jumlah partisi, dan kunci partisi untuk tabel sumber di instans Kafka tujuan. Untuk informasi selengkapnya, lihat Mapping information.
Catatan-
Jika Anda memetakan nama objek, objek dependen mungkin gagal disinkronkan.
-
Untuk memilih operasi SQL tertentu untuk sinkronisasi data inkremental, klik kanan objek di kotak Selected Objects dan pilih operasi dari menu pintasan.
-
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan task pada kluster bersama, dan Anda tidak perlu memilih kluster. Untuk kinerja yang lebih stabil, Anda dapat membeli kluster khusus untuk menjalankan task sinkronisasi DTS. Untuk informasi selengkapnya, lihat What is a DTS dedicated cluster?.
Retry Time for Failed Connections
Setelah task sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba kembali koneksi. Durasi retry default adalah 720 menit. Anda juga dapat menentukan durasi retry kustom dari 10 hingga 1.440 menit. Kami menyarankan Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, task sinkronisasi secara otomatis dilanjutkan. Jika tidak, task gagal.
Catatan-
Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu retry jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, durasi yang lebih pendek yaitu 30 menit digunakan untuk keduanya.
-
Karena DTS mengenakan biaya untuk waktu proses task selama periode retry koneksi, kami menyarankan Anda menyesuaikan durasi retry berdasarkan kebutuhan bisnis Anda atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah task sinkronisasi dimulai, jika terjadi masalah non-konektivitas lainnya pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS melaporkan error dan segera mulai operasi retry berkelanjutan. Durasi retry default adalah 10 menit. Anda juga dapat menyesuaikan durasi retry dalam rentang 1 hingga 1.440 menit. Kami menyarankan Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi retry yang ditetapkan, task sinkronisasi secara otomatis dilanjutkan. Jika tidak, task gagal.
PentingNilai untuk Retry Time for Other Issues harus lebih kecil daripada nilai untuk Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization
Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk task sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s).
Catatan-
Item konfigurasi ini tersedia hanya ketika Synchronization Types diatur ke Full Data Synchronization.
-
Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi Berjalan.
Enable Throttling for Incremental Data Synchronization
Anda juga dapat mengatur batas laju untuk task sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Environment Tag
Pilih tag lingkungan untuk mengidentifikasi instans. Tidak diperlukan pemilihan untuk contoh ini.
Configure ETL
Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi selengkapnya, lihat What is ETL? Nilai yang valid:
-
Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Configure ETL in a data migration or data synchronization task.
-
No: Menonaktifkan fitur ETL.
Monitoring and Alerting
Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi dikirim ke kontak peringatan.
-
No: Tidak ada peringatan yang dikonfigurasi.
-
Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan menentukan pemberitahuan peringatan. Untuk informasi selengkapnya, lihat Configure monitoring and alerting during task configuration.
-
-
-
Simpan task dan jalankan Pemeriksaan Awal.
-
Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di balon info.
-
Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan Pemeriksaan Awal. Pekerjaan hanya dapat dimulai setelah semua item Pemeriksaan Awal lolos.
-
Jika Pemeriksaan Awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan kembali Pemeriksaan Awal.
-
Jika Pemeriksaan Awal mengembalikan peringatan:
-
Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti instruksi untuk memperbaiki masalah, lalu jalankan kembali Pemeriksaan Awal.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan kembali Pemeriksaan Awal. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.
-
-
-
Beli instans.
-
Saat Success Rate mencapai 100%, klik Next: Purchase Instance.
-
Di halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instans sinkronisasi data. Tabel berikut menjelaskan parameter ini secara rinci.
Kategori
Parameter
Deskripsi
New Instance Class
Billing Method
-
Subscription: Anda membayar saat membuat instans. Ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya daripada bayar sesuai penggunaan. Semakin lama durasi langganan, semakin tinggi diskonnya.
-
Pay-as-you-go: Anda dikenai biaya per jam. Ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah digunakan untuk menghemat biaya.
Resource Group Configuration
Kelompok sumber daya tempat instans tersebut berada. Default-nya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat What is Resource Management?.
Link Specification
DTS menyediakan spesifikasi sinkronisasi dengan tingkat kinerja berbeda. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Data synchronization link specifications.
Subscription Duration
Dalam mode subscription, pilih durasi dan jumlah untuk instans langganan. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan, atau langganan tahunan selama 1, 2, 3, atau 5 tahun.
CatatanOpsi ini hanya tersedia ketika metode penagihan adalah Subscription.
-
-
Setelah menyelesaikan konfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
-
Klik Buy and Start. Di kotak dialog OK, klik OK.
Anda dapat melihat progres task di halaman Data Synchronization.
-
Pemetaan
-
Di area Selected Objects, arahkan kursor ke nama topik tujuan.
-
Klik tombol Edit yang muncul di sebelah nama topik tujuan.
-
Di kotak dialog Edit Table, konfigurasikan pengaturan pemetaan.
Catatan-
Kotak dialog Edit Schema untuk pengaturan tingkat database dan memiliki lebih sedikit parameter yang dapat dikonfigurasi dibandingkan kotak dialog Edit Table, yang untuk pengaturan tingkat tabel.
-
Jika Anda tidak menyinkronkan seluruh database, Anda tidak dapat memodifikasi parameter Name of target Topic dan Number of Partitions di kotak dialog Edit Schema.
Parameter
Deskripsi
Name of target Topic
Topik tujuan tempat DTS menulis data dari tabel sumber. Secara default, ini adalah Topic yang Anda pilih di bagian Destination Database selama langkah Configurations for Source and Destination Databases.
Penting-
Jika database tujuan adalah instans Alibaba Cloud Message Queue for Apache Kafka, topik yang ditentukan harus ada di instans Kafka tujuan. Jika tidak, task sinkronisasi data gagal. Jika database tujuan adalah database Kafka yang dikelola sendiri dan instans sinkronisasi mencakup task sinkronisasi skema, DTS mencoba membuat topik yang ditentukan di database tujuan.
-
Jika Anda mengubah Name of target Topic, DTS menulis data ke topik baru tersebut.
Filter Conditions
Untuk informasi selengkapnya, lihat Set Filter Conditions.
Number of Partitions
Jumlah partisi dalam topik tujuan.
Partition Key
Parameter ini tersedia ketika Anda mengatur Policy for Shipping Data to Kafka Partitions ke Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Anda dapat memilih satu atau beberapa kolom sebagai kunci partisi. DTS menghitung nilai hash berdasarkan kunci ini dan mendistribusikan baris ke partisi-partisi topik tujuan.
CatatanAnda dapat memilih Partition Key hanya di kotak dialog Edit Table.
-
-
Klik OK.
FAQ
Dapatkah saya memodifikasi Kafka Data Compression Format?
Ya. Anda dapat menggunakan fitur Modify synchronization objects untuk memodifikasinya.
Dapatkah saya memodifikasi Message acknowledgement mechanism?
Ya. Anda dapat menggunakan fitur Modify synchronization objects untuk memodifikasinya.