DTS melakukan migrasi data dari database Db2 for LUW ke instans ApsaraMQ for Kafka.
Prasyarat
-
Buat instans Message Queue for Apache Kafka tujuan dengan kapasitas storage space lebih besar daripada yang dibutuhkan oleh database Db2 for LUW sumber. Untuk informasi selengkapnya, lihat Overview.
CatatanUntuk daftar database sumber dan tujuan yang didukung, lihat skenario migrasi.
-
Sebuah topik telah dibuat di instans Message Queue for Apache Kafka target untuk menerima data yang dimigrasikan. Untuk informasi selengkapnya, lihat Langkah 1: Buat Topik.
-
Untuk melakukan migrasi inkremental, aktifkan archive log untuk database Db2 for LUW. Untuk informasi selengkapnya, lihat Primary log archive method dan Secondary log archive method.
PentingSetelah mengubah konfigurasi logarchmeth, Anda harus melakukan database backup agar perubahan diterapkan. Jika tidak, pemeriksaan awal (precheck) dapat melaporkan error.
Batasan
DTS tidak memigrasikan foreign keys. Akibatnya, operasi kaskade seperti cascade delete di database sumber tidak direplikasi di database tujuan.
|
Type |
Description |
|
Batasan pada database sumber |
|
|
Batasan lainnya |
|
|
Kasus khusus |
|
Penagihan
|
Jenis migrasi |
Biaya konfigurasi |
Biaya traffic Internet |
|
Migrasi skema dan migrasi data penuh |
Gratis. |
Gratis untuk contoh ini. |
|
Migrasi data inkremental |
Dikenai biaya. Untuk detailnya, lihat ikhtisar penagihan. |
Operasi SQL yang didukung untuk migrasi inkremental
|
Jenis operasi |
Pernyataan SQL |
|
DML |
INSERT, UPDATE, dan DELETE |
Izin akun Db2 for LUW
|
Database |
Migrasi data penuh |
Migrasi skema |
Migrasi data inkremental |
|
Db2 for LUW |
Izin CONNECT dan SELECT |
Izin CONNECT dan SELECT |
Izin DBADM |
Untuk membuat akun database dan memberikan izin pada database Db2 for LUW, lihat Creating group and user IDs for a Db2 database installation (Linux and UNIX) dan Authorities overview.
Prosedur
Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.
Dari Konsol DTS
Login ke Konsol Data Transmission Service (DTS).
Pada panel navigasi kiri, klik Data Migration.
Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak konsol DMS. Untuk informasi selengkapnya, lihat Konsol mode sederhana dan Sesuaikan tata letak dan gaya konsol DMS.
Login ke Konsol Data Management (DMS).
Pada bilah menu atas, pilih .
Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.
Klik Create Task untuk membuka halaman konfigurasi tugas.
-
Konfigurasikan database sumber dan tujuan.
Kategori
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tersebut tidak harus unik.
Source Database
Select Existing Connection
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis.
CatatanDi konsol DMS, parameter ini bernama Select a DMS database instance..
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans yang terdaftar, konfigurasikan informasi database secara manual di bawah.
Database Type
Pilih DB2 for LUW.
Access Method
Pilih metode akses berdasarkan lokasi penerapan database Db2 for LUW sumber. Topik ini menggunakan Self-managed Database on ECS sebagai contoh.
CatatanJika Anda memilih metode akses lain untuk database yang dikelola sendiri, Anda harus melakukan langkah persiapan tambahan. Untuk informasi selengkapnya, lihat Preparation Overview.
Instance Region
Pilih wilayah database Db2 for LUW sumber.
Replicate Data Across Alibaba Cloud Accounts
Contoh ini menunjukkan migrasi data dalam satu Akun Alibaba Cloud. Pilih No.
ECS Instance ID
Pilih ID instans ECS dari database Db2 for LUW sumber.
Port Number
Masukkan port layanan untuk database Db2 for LUW sumber.
Database Name
Masukkan nama database di instans Db2 for LUW sumber yang berisi objek yang akan dimigrasikan.
Database Account
Masukkan akun database untuk database Db2 for LUW sumber. Untuk informasi tentang izin yang diperlukan, lihat Izin yang Diperlukan untuk Akun Database.
Database Password
Masukkan kata sandi yang sesuai dengan akun database.
Destination Database
Select Existing Connection
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis.
CatatanDi konsol DMS, parameter ini bernama Select a DMS database instance..
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans yang terdaftar, konfigurasikan informasi database secara manual di bawah.
Database Type
Pilih Kafka.
Access Method
Pilih Express Connect, VPN Gateway, or Smart Access Gateway.
CatatanDalam topik ini, instans ApsaraMQ for Kafka dikonfigurasi sebagai database Kafka yang dikelola sendiri untuk tugas migrasi.
Instance Region
Pilih wilayah instans ApsaraMQ for Kafka.
Connected VPC
Pilih ID VPC dari instans ApsaraMQ for Kafka tujuan.
CatatanAnda dapat menemukan ID VPC di bagian Configurations pada tab Instance Information instans ApsaraMQ for Kafka.
Domain Name or IP
Masukkan salah satu alamat IP dari Default Endpoint instans ApsaraMQ for Kafka.
CatatanPada tab Instance Information instans ApsaraMQ for Kafka, buka bagian Endpoint Information dan temukan endpoint yang Type-nya adalah Default Endpoint. Arahkan pointer ke Domain Endpoint dan lihat IP Endpoint pada tooltip yang muncul.
Port Number
Masukkan port layanan untuk instans ApsaraMQ for Kafka. Nilai default-nya adalah 9092.
CatatanAnda hanya perlu memasukkan satu alamat IP dan port yang sesuai.
Database Account
Tentukan Database Account dan Database Password hanya jika Access Control List (ACL) diaktifkan untuk instans ApsaraMQ for Kafka.
Catatan-
Untuk informasi selengkapnya tentang cara mengaktifkan ACL, lihat otorisasi pengguna SASL.
-
Database Account: Pada tab SASL User Management, lihat Username.
-
Database Password: Pada tab SASL User Management, klik Copy Password pada baris akun database target.
Database Password
Kafka Version
Pilih versi yang sesuai dengan instans Kafka Anda.
Jika versi instans ApsaraMQ for Kafka yang digunakan dalam tugas ini adalah 0.10.2, pilih 0.10.
Jika versi instans ApsaraMQ for Kafka yang digunakan dalam tugas ini adalah 2.6.2 atau 2.2.0, pilih Later Than 1.0.
Encryption
Pilih Non-encrypted atau SCRAM-SHA-256 berdasarkan kebutuhan bisnis dan keamanan Anda.
Topic
Dari daftar drop-down, pilih topik yang menerima data.
Use Kafka Schema Registry
Kafka Schema Registry menyediakan antarmuka RESTful untuk menyimpan dan mengambil skema Avro.
-
No: Jangan gunakan Kafka Schema Registry.
-
Yes: Gunakan Kafka Schema Registry. Masukkan URL atau alamat IP skema Avro yang terdaftar di Kafka Schema Registry.
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman. Pada kotak dialog CIDR Blocks of DTS Servers yang muncul, klik Test Connectivity.
CatatanPastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi selengkapnya, lihat Tambahkan alamat IP server DTS ke daftar putih.
-
Konfigurasikan objek tugas.
-
Pada halaman Configure Objects, konfigurasikan objek yang ingin dimigrasikan.
Parameter
Deskripsi
Migration Types
Jika hanya perlu melakukan migrasi penuh, pilih Schema Migration dan Full Data Migration.
Untuk migrasi tanpa downtime, pilih Schema Migration, Full Data Migration, dan Incremental Data Migration.
CatatanJika tidak memilih Schema Migration, pastikan database dan tabel untuk menerima data sudah ada di database tujuan. Anda juga dapat menggunakan fitur pemetaan nama objek di kotak Selected Objects sesuai kebutuhan.
Jika tidak memilih Incremental Data Migration, jangan menulis data baru ke instans sumber selama migrasi data untuk memastikan konsistensi data.
Processing Mode of Conflicting Tables
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, precheck lolos. Jika ada tabel dengan nama yang sama, error dilaporkan selama precheck, dan tugas migrasi data tidak dimulai.
CatatanJika tabel di database tujuan memiliki nama yang sama tetapi tidak dapat dengan mudah dihapus atau diganti namanya, Anda dapat mengubah nama tabel di database tujuan. Untuk informasi selengkapnya, lihat Pemetaan nama objek.
Ignore Errors and Proceed: Melewati pemeriksaan tabel dengan nama yang sama.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan risiko bisnis. Misalnya:
Jika skema tabel konsisten dan catatan di database tujuan memiliki nilai primary key yang sama dengan catatan di database sumber:
Selama migrasi penuh, DTS menyimpan catatan di database tujuan. Catatan dari database sumber tidak dimigrasikan.
Selama migrasi inkremental, DTS tidak menyimpan catatan di database tujuan. Catatan dari database sumber menimpa catatan di database tujuan.
Jika skema tabel tidak konsisten, hanya beberapa kolom data yang mungkin dimigrasikan, atau migrasi dapat gagal. Lakukan dengan hati-hati.
Data Format in Kafka
Format penyimpanan untuk data yang dimigrasikan ke instans Kafka.
Jika memilih DTS Avro, Anda harus mengurai data berdasarkan definisi skema DTS Avro. Untuk informasi selengkapnya, lihat Definisi skema DTS Avro dan Contoh deserialisasi DTS Avro.
-
Jika memilih Shareplex Json, lihat Shareplex Json untuk deskripsi parameter dan contohnya.
Kafka Data Compression Format
Pilih format kompresi untuk pesan Kafka berdasarkan kebutuhan Anda.
LZ4 (default): rasio kompresi rendah, kecepatan kompresi tinggi.
GZIP: rasio kompresi tinggi, kecepatan kompresi rendah.
CatatanKonsumsi CPU tinggi.
Snappy: rasio kompresi sedang, kecepatan kompresi sedang.
Policy for Shipping Data to Kafka Partitions
Pilih strategi berdasarkan kebutuhan bisnis Anda.
Message acknowledgement mechanism
Pilih mekanisme acknowledgment pesan berdasarkan kebutuhan bisnis Anda.
Topic That Stores DDL Information
Pilih topik untuk menyimpan informasi DDL.
CatatanJika tidak ada topik yang dipilih, DTS menyimpan informasi DDL di topik data secara default.
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan case sensitivity untuk nama objek yang dimigrasikan, seperti database, tabel, dan kolom, di instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menjaga case sensitivity konsisten dengan kebijakan default database sumber atau tujuan. Untuk informasi selengkapnya, lihat Case sensitivity nama objek di database tujuan.
Source Objects
Di kotak Source Objects, klik objek yang akan dimigrasikan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanAnda dapat memilih objek tingkat database, tabel, atau kolom. Jika memilih tabel atau kolom, objek lain seperti view, trigger, dan stored procedure tidak dimigrasikan.
Selected Objects
Tidak diperlukan konfigurasi tambahan dalam contoh ini. Anda dapat menggunakan fitur pemetaan untuk mengatur nama topik, jumlah partisi, dan kunci partisi untuk tabel sumber di instans Kafka tujuan. Untuk informasi selengkapnya, lihat Informasi pemetaan.
Catatan-
Jika menggunakan fitur pemetaan nama objek, migrasi objek lain yang bergantung pada objek yang dipetakan mungkin gagal.
-
Untuk memilih operasi SQL untuk migrasi inkremental, klik kanan objek yang akan dimigrasikan di panel Selected Objects, lalu pilih operasi SQL yang diinginkan di kotak dialog yang muncul.
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas pada kluster bersama. Anda tidak perlu memilihnya. Jika menginginkan tugas yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas migrasi DTS.
Retry Time for Failed Connections
Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba koneksi ulang. Durasi retry default adalah 720 menit. Anda dapat menyesuaikan durasi retry ke nilai antara 10 hingga 1.440 menit. Kami menyarankan Anda mengatur durasi lebih dari 30 menit. Jika DTS berhasil terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal.
CatatanUntuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu retry jaringan ditentukan oleh pengaturan tugas yang terakhir dibuat.
Karena Anda dikenai biaya selama periode retry koneksi, kami menyarankan Anda menyesuaikan waktu retry berdasarkan kebutuhan bisnis, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti exception eksekusi DDL atau DML, pada database sumber atau tujuan, DTS melaporkan error dan segera mulai mencoba operasi ulang. Durasi retry default adalah 10 menit. Anda dapat menyesuaikan durasi retry ke nilai antara 1 hingga 1.440 menit. Kami menyarankan Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi retry yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal.
PentingNilai Retry Time for Other Issues harus lebih kecil daripada nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Selama migrasi penuh, DTS mengonsumsi sumber daya baca dan tulis pada database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban pada database tujuan.
CatatanItem konfigurasi ini tersedia hanya jika Anda memilih Full Data Migration untuk Migration Types.
Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instans migrasi berjalan.
Enable Throttling for Incremental Data Migration
Jika diperlukan, Anda juga dapat memilih untuk mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban pada database tujuan.
CatatanItem konfigurasi ini tersedia hanya jika Anda memilih Incremental Data Migration untuk Migration Types.
Anda juga dapat menyesuaikan kecepatan migrasi inkremental setelah instans migrasi berjalan.
Environment Tag
Pilih tag lingkungan untuk mengidentifikasi instans. Parameter ini opsional.
Configure ETL
Berdasarkan kebutuhan bisnis Anda, pilih apakah akan mengonfigurasi fitur ETL untuk memproses data.
Yes: Mengonfigurasi fitur ETL. Anda juga harus memasukkan pernyataan pemrosesan data di kotak teks.
No: Tidak mengonfigurasi fitur ETL.
Monitoring and Alerting
Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan berdasarkan kebutuhan bisnis Anda.
No: Tidak mengatur peringatan.
Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan pemberitahuan peringatan. Jika migrasi gagal atau latensi melebihi ambang batas, sistem akan mengirim pemberitahuan peringatan.
-
Simpan tugas dan jalankan pemeriksaan awal (precheck).
Untuk melihat parameter konfigurasi instans ini saat memanggil operasi API, arahkan pointer ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters pada balon yang muncul.
Jika tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
CatatanSebelum tugas migrasi dimulai, DTS melakukan precheck. Tugas hanya dimulai setelah lolos precheck.
Jika precheck gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan precheck lagi.
Jika peringatan dilaporkan selama precheck:
Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan precheck lagi.
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan precheck lagi. Jika memilih untuk mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.
-
Beli instans.
Saat Success Rate mencapai 100%, klik Next: Purchase Instance.
Pada halaman Purchase, pilih spesifikasi link untuk instans migrasi data. Untuk informasi selengkapnya, lihat tabel berikut.
Kategori
Parameter
Deskripsi
New Instance Class
Resource Group Settings
Pilih kelompok sumber daya tempat instans berada. Nilai default-nya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu manajemen sumber daya?
Instance Class
DTS menyediakan spesifikasi migrasi dengan tingkat kinerja berbeda. Spesifikasi link memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link migrasi data.
Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
Klik Buy and Start. Pada kotak dialog OK yang muncul, klik OK.
Anda dapat melihat progres tugas migrasi di halaman daftar Data Migration Tasks.
CatatanJika tugas migrasi tidak mencakup migrasi inkremental, tugas akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status-nya berubah menjadi Completed.
Jika tugas migrasi mencakup migrasi inkremental, tugas tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.
Pengaturan pemetaan
Di area Selected Objects, arahkan pointer ke nama topik tujuan.
Klik Edit.
Pada kotak dialog Edit Table, konfigurasikan pengaturan pemetaan.
CatatanTingkat database, kotak dialog Edit Schema muncul, yang menyediakan lebih sedikit parameter. Tingkat tabel, kotak dialog Edit Table muncul.
Jika tidak memigrasikan seluruh database, Anda tidak dapat memodifikasi parameter Edit Schema dan Name of target Topic di kotak dialog Number of Partitions.
Parameter
Deskripsi
Name of target Topic
Nama topik tujuan untuk tabel sumber. Secara default, ini adalah Topic yang Anda pilih untuk Destination Database pada langkah Configurations for Source and Destination Databases.
PentingJika database tujuan adalah instans Message Queue for Apache Kafka, nama topik yang Anda masukkan harus ada di instans Kafka tujuan. Jika tidak, migrasi data akan gagal. Jika database tujuan adalah instans Kafka yang dikelola sendiri dan tugas mencakup tugas migrasi skema, DTS akan mencoba membuat topik yang Anda tentukan di database tujuan.
Jika Anda mengubah Name of target Topic, DTS akan menulis data ke topik yang Anda tentukan.
Filter Conditions
Untuk informasi selengkapnya, lihat Konfigurasikan kondisi filter.
Number of Partitions
Jumlah partisi di topik tujuan.
Partition Key
Jika Policy for Shipping Data to Kafka Partitions diatur ke Ship Data to Separate Partitions Based on Hash Values of Primary Keys, Anda dapat mengonfigurasi parameter ini. Tentukan satu atau beberapa kolom sebagai kunci partisi. DTS menghitung nilai hash dari kunci tersebut dan menggunakannya untuk mendistribusikan baris ke partisi-partisi di topik tujuan.
CatatanAnda dapat memilih Partition Key hanya di kotak dialog Edit Table.
Klik OK.