Topik ini menjelaskan cara menggunakan DTS untuk memigrasikan data dari instans PolarDB-X 1.0 ke instans ApsaraMQ for Kafka.
Prasyarat
-
Anda memiliki instans PolarDB-X 1.0 sumber. Untuk petunjuknya, lihat Buat instans PolarDB-X 1.0.
CatatanJenis storage yang didukung untuk PolarDB-X 1.0 adalah ApsaraDB RDS for MySQL, yang mencakup instans kustom maupun instans yang dibeli secara terpisah. PolarDB for MySQL tidak didukung.
-
Anda memiliki instans ApsaraMQ for Kafka dan topik untuk data yang dimigrasikan. Untuk informasi lebih lanjut mengenai instans ApsaraMQ for Kafka, lihat Memulai ApsaraMQ for Kafka.
CatatanUntuk versi database sumber dan tujuan yang didukung, lihat Ikhtisar solusi migrasi.
-
Pastikan instans ApsaraMQ for Kafka tujuan memiliki ruang penyimpanan (storage space) lebih besar daripada yang digunakan oleh instans PolarDB-X 1.0 sumber.
Batasan
Jenis | Deskripsi |
Batasan database sumber |
|
Batasan lainnya |
|
Pertimbangan tambahan |
|
Penagihan
|
Jenis migrasi |
Biaya konfigurasi instans |
Biaya trafik internet |
|
Migrasi skema dan migrasi data penuh |
Tidak dikenai biaya. |
Bervariasi berdasarkan metode akses. Catatan
Biaya trafik internet berlaku jika Access Method untuk database tujuan adalah Public IP Address. Untuk informasi lebih lanjut, lihat Ikhtisar penagihan. |
|
Migrasi data inkremental |
Dikenai biaya. Untuk informasi lebih lanjut, lihat Ikhtisar penagihan. |
Jenis migrasi
-
Migrasi skema
DTS memigrasikan definisi skema objek migrasi dari database sumber ke database tujuan.
-
Migrasi penuh
DTS memigrasikan semua data historis dari objek migrasi yang ditentukan dari database sumber ke database tujuan.
-
Migrasi inkremental
Setelah migrasi penuh selesai, DTS memigrasikan pembaruan data inkremental dari database sumber ke database tujuan. Migrasi inkremental memungkinkan Anda memigrasikan data secara mulus tanpa mengganggu aplikasi yang dikelola sendiri.
Operasi SQL yang didukung untuk migrasi inkremental
|
Jenis |
Pernyataan SQL |
|
DML |
INSERT, UPDATE, dan DELETE |
Izin akun database
|
Database |
Migrasi skema |
Migrasi data penuh |
Migrasi data inkremental |
|
Instans PolarDB-X 1.0 |
izin |
izin |
izin Catatan
Untuk detail pemberian izin, lihat Alat sinkronisasi data untuk PolarDB-X. |
|
ApsaraMQ for Kafka |
izin baca dan tulis |
||
Pemetaan tipe data
Untuk detailnya, lihat Inisialisasi skema: Pemetaan tipe data.
Langkah-langkah
-
Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.
Dari Konsol DTS
-
Login ke Konsol Data Transmission Service (DTS).
-
Di panel navigasi kiri, klik Data Migration.
-
Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi lebih lanjut, lihat Konsol mode sederhana dan Sesuaikan tata letak dan gaya Konsol DMS.
-
Login ke Konsol Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.
-
-
Klik Create Task untuk membuka halaman konfigurasi tugas.
-
Konfigurasikan database sumber dan tujuan.
PeringatanSetelah memilih instans sumber dan tujuan, kami merekomendasikan agar Anda membaca dengan cermat Limits di bagian atas halaman agar berhasil membuat dan menjalankan tugas migrasi data.
Kategori
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami merekomendasikan agar Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tersebut tidak perlu unik.
Source Database
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah ini akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans yang terdaftar, konfigurasikan informasi database secara manual di bawah ini.
Database Type
Pilih PolarDB-X 1.0.
Connection Type
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans PolarDB-X 1.0 sumber berada.
Replicate Data Across Alibaba Cloud Accounts
Dalam contoh ini, migrasi dilakukan dalam satu Akun Alibaba Cloud yang sama. Pilih No.
Instance ID
Pilih ID instans instans PolarDB-X 1.0 sumber.
Database Account
Masukkan akun database instans PolarDB-X 1.0 sumber. Untuk informasi tentang izin yang diperlukan, lihat dokumentasi izin terkait.
Database Password
Masukkan password untuk akun database tersebut.
Destination Database
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah ini akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans yang terdaftar, konfigurasikan informasi database secara manual di bawah ini.
Database Type
Pilih Kafka.
Connection Type
Pilih Express Connect, VPN Gateway, or Smart Access Gateway.
CatatanPada langkah ini, Anda mengonfigurasi instans ApsaraMQ for Kafka sebagai database Kafka yang dikelola sendiri.
Instance Region
Pilih wilayah instans Kafka tujuan.
Connected VPC
Pilih ID Virtual Private Cloud (VPC) yang berisi instans Kafka tujuan. Anda dapat melihat ID VPC di halaman Basic Information instans Kafka.
Domain Name or IP
Masukkan alamat IP dari default endpoint instans Kafka.
CatatanAnda dapat memperoleh alamat IP untuk default endpoint di halaman Basic Information instans Kafka.
Port
Port layanan instans Kafka. Nilai default: 9092.
Database Account
Masukkan akun database dan password untuk instans Kafka tujuan.
CatatanAkun database dan password hanya diperlukan untuk instans ApsaraMQ for Kafka yang telah mengaktifkan Access Control List (ACL). Untuk informasi lebih lanjut tentang cara mengaktifkan ACL, lihat Otorisasi pengguna SASL.
Database Password
Kafka Version
Pilih versi yang sesuai dengan instans Kafka Anda.
Encryption
Berdasarkan kebutuhan bisnis dan keamanan Anda, pilih Non-encrypted atau SCRAM-SHA-256.
Topic
Dari daftar drop-down, pilih topik tujuan.
Use Kafka Schema Registry
Kafka Schema Registry adalah lapisan layanan untuk metadata Anda. Ini menyediakan antarmuka RESTful untuk menyimpan dan mengambil skema Avro.
-
No: Jangan gunakan Kafka Schema Registry.
-
Yes: Gunakan Kafka Schema Registry. Anda harus memasukkan URL atau alamat IP skema Avro yang terdaftar di Kafka Schema Registry.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan-
Pastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi lebih lanjut, lihat Tambahkan alamat IP server DTS ke daftar putih.
-
Jika database sumber atau tujuan adalah database yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers yang muncul.
-
-
Konfigurasikan objek tugas.
-
Di halaman Configure Objects, konfigurasikan objek yang ingin Anda migrasikan.
Parameter
Deskripsi
Migration Types
Pilih jenis migrasi berdasarkan kebutuhan Anda dan jenis yang didukung oleh setiap engine.
-
Jika Anda hanya perlu melakukan migrasi penuh, pilih Schema Migration dan Full Data Migration.
-
Untuk melakukan migrasi tanpa downtime, pilih Schema Migration, Full Data Migration, dan Incremental Data Migration.
Catatan-
Jika Anda tidak memilih Schema Migration, Anda harus memastikan bahwa database dan tabel untuk menerima data sudah ada di database tujuan. Anda juga dapat menggunakan fitur pemetaan nama objek di kotak Selected Objects sesuai kebutuhan.
-
Jika Anda tidak memilih Incremental Data Migration, jangan menulis data baru ke instans sumber selama migrasi data untuk memastikan konsistensi data.
Processing Mode for Existing Destination Tables
-
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama sudah ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, pemeriksaan awal lolos. Jika ada tabel dengan nama yang sama, kesalahan dilaporkan selama pemeriksaan awal, dan tugas migrasi data tidak dimulai.
CatatanJika tabel di database tujuan memiliki nama yang sama tetapi tidak dapat dengan mudah dihapus atau diganti namanya, Anda dapat mengubah nama tabel di database tujuan. Untuk informasi lebih lanjut, lihat Pemetaan nama objek.
-
Ignore Errors and Proceed: Melewati pemeriksaan untuk tabel dengan nama yang sama.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan inkonsistensi data dan risiko bisnis. Misalnya:
-
Jika skema tabel konsisten dan catatan di database tujuan memiliki nilai primary key yang sama dengan catatan di database sumber:
-
Selama migrasi penuh, DTS menyimpan catatan di database tujuan. Catatan dari database sumber tidak dimigrasikan.
-
Selama migrasi inkremental, DTS tidak menyimpan catatan di database tujuan. Catatan dari database sumber menimpa catatan di database tujuan.
-
-
Jika skema tabel tidak konsisten, hanya beberapa kolom data yang mungkin dimigrasikan, atau migrasi dapat gagal. Lakukan dengan hati-hati.
-
Data Format in Kafka
Pilih format data untuk data yang ingin Anda migrasikan ke instans Kafka berdasarkan kebutuhan Anda.
-
Jika Anda memilih DTS Avro, Anda harus mengurai data berdasarkan definisi skema DTS Avro. Untuk informasi lebih lanjut, lihat Definisi Skema DTS Avro dan Contoh Deserialisasi DTS Avro.
-
Jika Anda memilih Canal JSON, lihat Format Canal JSON untuk informasi lebih lanjut tentang parameter dan contohnya.
CatatanPolarDB-X 1.0 tidak mendukung format Canal JSON. Anda harus memilih DTS Avro.
Kafka Data Compression Format
Pilih format kompresi untuk pesan Kafka berdasarkan kebutuhan Anda.
-
LZ4 (default): rasio kompresi rendah, kecepatan kompresi tinggi.
-
GZIP: rasio kompresi tinggi, kecepatan kompresi rendah.
CatatanKonsumsi CPU tinggi.
-
Snappy: rasio kompresi menengah, kecepatan kompresi menengah.
Policy for Shipping Data to Kafka Partitions
Message acknowledgement mechanism
Pilih mekanisme konfirmasi pesan berdasarkan kebutuhan bisnis Anda.
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan case sensitivity untuk nama objek yang dimigrasikan, seperti database, tabel, dan kolom, di instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menjaga case sensitivity konsisten dengan kebijakan default database sumber atau tujuan. Untuk informasi lebih lanjut, lihat Case sensitivity nama objek di database tujuan.
Source Objects
Di kotak Source Objects, klik objek yang akan dimigrasikan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanPilih objek untuk dimigrasikan pada tingkat tabel. Jika Anda memilih seluruh database, perubahan apa pun untuk menambah atau menghapus tabel di database tersebut tidak akan dimigrasikan ke tujuan.
Selected Objects
Tidak diperlukan konfigurasi tambahan dalam contoh ini. Anda dapat menggunakan fitur pemetaan untuk mengonfigurasi nama topik, jumlah partisi topik, dan kunci partisi tabel sumber di instans ApsaraMQ for Kafka tujuan. Untuk informasi lebih lanjut, lihat Informasi pemetaan.
Catatan-
Jika Anda menggunakan fitur pemetaan nama objek, objek lain yang bergantung pada objek yang dipetakan mungkin gagal dimigrasikan.
-
Untuk memilih operasi SQL untuk migrasi data inkremental, klik kanan objek migrasi di kotak Selected Objects dan pilih operasi SQL yang akan dimigrasikan di kotak dialog yang muncul.
-
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Anda tidak perlu memilih klaster khusus dalam contoh ini. Untuk informasi lebih lanjut tentang klaster khusus, lihat Apa itu klaster khusus DTS?.
Retry Time for Failed Connections
Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan kesalahan dan segera mulai mencoba menghubungkan kembali. Durasi percobaan ulang default adalah 720 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 10 hingga 1.440 menit. Kami merekomendasikan agar Anda mengatur durasi lebih dari 30 menit. Jika DTS berhasil terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal.
Catatan-
Untuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu percobaan ulang jaringan ditentukan oleh pengaturan tugas yang terakhir dibuat.
-
Karena Anda dikenai biaya untuk tugas selama periode percobaan ulang koneksi, kami merekomendasikan agar Anda menyesuaikan waktu percobaan ulang berdasarkan kebutuhan bisnis Anda, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti pengecualian eksekusi DDL atau DML, di database sumber atau tujuan, DTS melaporkan kesalahan dan segera mulai mencoba mengulang operasi tersebut. Durasi percobaan ulang default adalah 10 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 1 hingga 1.440 menit. Kami merekomendasikan agar Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal.
PentingNilai Retry Time for Other Issues harus kurang dari nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Selama migrasi penuh, DTS mengonsumsi sumber daya baca dan tulis di database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban di database tujuan.
Catatan-
Item konfigurasi ini tersedia hanya jika Anda memilih Full Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instans migrasi berjalan.
Enable Throttling for Incremental Data Migration
Jika diperlukan, Anda juga dapat memilih untuk mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban di database tujuan.
Catatan-
Item konfigurasi ini tersedia hanya jika Anda memilih Incremental Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi inkremental setelah instans migrasi berjalan.
Environment Tag
Anda dapat memilih tag lingkungan untuk mengidentifikasi instans berdasarkan kebutuhan bisnis Anda. Anda tidak perlu memilih tag lingkungan dalam contoh ini.
Configure ETL
Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi lebih lanjut, lihat Apa itu ETL? Nilai yang valid:
-
Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi lebih lanjut, lihat Konfigurasi ETL dalam tugas migrasi data atau sinkronisasi data.
-
No: Menonaktifkan fitur ETL.
Monitoring and Alerting
Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan berdasarkan kebutuhan bisnis Anda.
-
No: Tidak mengatur peringatan.
-
Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan pemberitahuan peringatan. Jika migrasi gagal atau latensi melebihi ambang batas, sistem akan mengirim pemberitahuan peringatan.
-
-
-
Simpan tugas dan jalankan pemeriksaan awal.
-
Untuk melihat parameter konfigurasi instans ini saat memanggil Operasi API, arahkan pointer ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di balon yang muncul.
-
Jika Anda tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum tugas migrasi dimulai, DTS melakukan pemeriksaan awal. Tugas hanya dimulai setelah lolos pemeriksaan awal.
-
Jika pemeriksaan awal gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan prompt, lalu jalankan kembali pemeriksaan awal.
-
Jika peringatan dilaporkan selama pemeriksaan awal:
-
Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan prompt, lalu jalankan kembali pemeriksaan awal.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti inkonsistensi data dan menimbulkan risiko bagi bisnis Anda.
-
-
-
Beli instans.
-
Saat Success Rate mencapai 100%, klik Next: Purchase Instance.
-
Di halaman Purchase, pilih spesifikasi tautan untuk instans migrasi data. Untuk informasi lebih lanjut, lihat tabel berikut.
Kategori
Parameter
Deskripsi
New Instance Class
Resource Group Settings
Pilih kelompok sumber daya tempat instans tersebut berada. Nilai default adalah kelompok sumber daya default. Untuk informasi lebih lanjut, lihat Apa itu Resource Management?
Instance Class
DTS menyediakan spesifikasi migrasi dengan berbagai tingkat kinerja. Spesifikasi tautan memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi lebih lanjut, lihat Spesifikasi tautan migrasi data.
-
Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
-
Klik Buy and Start. Di kotak dialog OK yang muncul, klik OK.
Anda dapat melihat progres tugas migrasi di halaman daftar Data Migration Tasks.
Catatan-
Jika tugas migrasi tidak mencakup migrasi inkremental, tugas akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status-nya berubah menjadi Completed.
-
Jika tugas migrasi mencakup migrasi inkremental, tugas tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.
-
-
Informasi pemetaan
-
Di area Selected Objects, arahkan kursor ke nama topik tujuan pada tingkat tabel.
-
Klik Edit di sebelah nama topik tujuan.
-
Di kotak dialog Edit Table, konfigurasikan informasi pemetaan.
Catatan-
Kotak dialog ini bernama Edit Schema pada tingkat database dan Edit Table pada tingkat tabel. Kotak dialog Edit Schema memiliki lebih sedikit parameter.
-
Jika Anda tidak memigrasikan seluruh database, Anda tidak dapat memodifikasi parameter Name of target Topic dan Number of Partitions di kotak dialog Edit Schema.
Parameter
Deskripsi
Name of target Topic
Nama topik yang menerima data dari tabel sumber. Nilai default-nya adalah Topic yang Anda pilih di bagian Destination Database selama langkah Configurations for Source and Destination Databases.
Penting-
Jika tujuannya adalah instans Message Queue for Apache Kafka, topik yang ditentukan harus sudah ada di instans tujuan. Jika tidak, tugas migrasi data gagal. Jika tujuannya adalah database Kafka yang di-host sendiri dan tugas migrasi data mencakup migrasi struktur database dan tabel, DTS akan mencoba membuat topik yang ditentukan di database tujuan.
-
Jika Anda mengubah Name of target Topic, DTS akan menulis data ke topik yang ditentukan.
Filter Conditions
Untuk informasi lebih lanjut, lihat Konfigurasi kondisi filter.
Number of Partitions
Jumlah partisi di topik tujuan.
Partition Key
Parameter ini tersedia ketika Anda mengatur Policy for Shipping Data to Kafka Partitions ke Ship Data to Separate Partitions Based on Hash Values of Primary Keys. Anda dapat menentukan satu atau beberapa kolom sebagai kunci partisi. DTS kemudian menghitung nilai hash untuk kolom yang ditentukan dan menggunakannya untuk mendistribusikan baris ke partisi di topik tujuan.
CatatanAnda dapat memilih Partition Key hanya di kotak dialog Edit Table.
-
-
Klik OK.