Layanan Transmisi Data (DTS) mendukung migrasi data dari sumber MySQL—seperti database mandiri atau instans ApsaraDB RDS for MySQL—ke instans ApsaraMQ for RocketMQ. Topik ini menjelaskan cara melakukan migrasi data dari instans ApsaraDB RDS for MySQL.
Prasyarat
-
Anda telah membuat instans target ApsaraMQ for RocketMQ non-Serverless. Untuk informasi selengkapnya, lihat Manage instances atau Manage instances.
CatatanUntuk versi database sumber dan target yang didukung, lihat migration scenarios.
-
Sebuah topik telah dibuat di instans target Alibaba Cloud Message Queue for RocketMQ untuk menerima data yang akan dimigrasikan. Untuk informasi selengkapnya tentang cara membuat topik, lihat Manage topics atau Manage topics.
PentingUntuk seri 4.x, Message Type untuk topik harus diatur ke Partitionally Ordered Message.
Untuk seri 5.x, Message Type untuk topik harus diatur ke Ordered Message.
Batasan
|
Type |
Description |
|
Batasan database sumber |
|
|
Batasan lainnya |
|
|
Kasus khusus |
|
Penagihan
|
Jenis migrasi |
Biaya konfigurasi instans |
|
Migrasi data penuh |
Gratis. |
|
Migrasi data inkremental |
Dikenakan biaya. Untuk informasi selengkapnya, lihat billing overview. |
Operasi SQL untuk migrasi inkremental
Jenis operasi | Pernyataan SQL |
DML | INSERT, UPDATE, dan DELETE |
DDL |
|
Izin akun database
|
Database |
Izin yang diperlukan |
Tindakan |
|
Instans sumber ApsaraDB RDS for MySQL |
Izin baca pada objek yang akan dimigrasikan. |
Buat akun dan Ubah izin akun. |
Akun database sumber yang tidak dibuat dan diotorisasi di Konsol ApsaraDB RDS for MySQL harus memiliki izin REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW, dan SELECT.
Prosedur
-
Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.
Dari Konsol DTS
-
Masuk ke Konsol Data Transmission Service (DTS).
-
Di panel navigasi kiri, klik Data Migration.
-
Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Simple mode console dan Customize the layout and style of the DMS console.
-
Masuk ke Konsol Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.
-
-
Klik Create Task untuk membuka halaman konfigurasi tugas.
-
Konfigurasikan database sumber dan tujuan.
Kategori
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tidak perlu unik.
Source Database
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah ini akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan manual informasi database di bawah ini.
Database Type
Pilih MySQL.
Access Method
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans sumber ApsaraDB RDS for MySQL berada.
Replicate Data Across Alibaba Cloud Accounts
Dalam contoh ini, instans database di bawah Akun Alibaba Cloud saat ini digunakan. Pilih No.
RDS Instance ID
Pilih ID instans sumber ApsaraDB RDS for MySQL.
Database Account
Masukkan akun database instans sumber ApsaraDB RDS for MySQL. Untuk informasi tentang izin yang diperlukan, lihat Permissions required for database accounts.
Database Password
Masukkan password untuk akun database.
Encryption
Pilih Non-encrypted atau SSL-encrypted sesuai kebutuhan. Jika Anda memilih SSL-encrypted, Anda harus mengaktifkan enkripsi SSL untuk instans RDS for MySQL terlebih dahulu. Untuk informasi selengkapnya, lihat Use a cloud certificate to quickly enable SSL encryption.
Destination Database
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah ini akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan manual informasi database di bawah ini.
Database Type
Pilih RocketMQ.
Access Method
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans tujuan ApsaraMQ for RocketMQ berada.
RocketMQ version
Pilih versi instans tujuan ApsaraMQ for RocketMQ.
Instance ID
Pilih ID instans tujuan ApsaraMQ for RocketMQ.
Database Account
Masukkan akun database dan password untuk instans tujuan ApsaraMQ for RocketMQ.
Catatan-
Parameter ini hanya diperlukan jika Anda mengatur RocketMQ version ke 5.x.
-
Anda dapat memperoleh kredensial di tab Intelligent Authentication pada halaman RAM di Konsol ApsaraMQ for RocketMQ.
Database Password
Topic
Dari daftar drop-down, pilih topik yang akan menerima data yang dimigrasikan.
Topic That Stores DDL Information
Dari daftar drop-down, pilih topik yang akan menyimpan informasi DDL.
CatatanJika Anda tidak memilih topik, informasi DDL secara default disimpan di topik yang ditentukan untuk parameter Topic.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan-
Pastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi selengkapnya, lihat Add DTS server IP addresses to a whitelist.
-
Jika database sumber atau tujuan adalah database mandiri (Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers yang muncul.
-
-
Konfigurasikan objek tugas.
-
Di halaman Configure Objects, konfigurasikan objek yang ingin Anda migrasikan.
Parameter
Deskripsi
Migration Types
-
Jika hanya perlu melakukan migrasi penuh, pilih Full Data Migration.
-
Untuk migrasi tanpa downtime, pilih kedua opsi: Full Data Migration dan Incremental Data Migration.
CatatanJika Incremental Data Migration tidak dipilih, jangan menulis data baru ke instans sumber selama migrasi agar konsistensi data tetap terjaga.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tidak ada, pemeriksaan awal lolos. Jika ada, error dilaporkan selama pemeriksaan awal dan tugas migrasi tidak dimulai.
CatatanJika tabel di database tujuan memiliki nama yang sama tetapi tidak dapat dihapus atau diganti namanya dengan mudah, Anda dapat mengganti nama tabel tersebut. Untuk informasi selengkapnya, lihat Object name mapping.
-
Ignore Errors and Proceed: Melewati pemeriksaan tabel dengan nama yang sama.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan risiko bisnis. Misalnya:
-
Jika skema tabel konsisten dan catatan di database tujuan memiliki nilai primary key yang sama dengan catatan di database sumber:
-
Selama migrasi penuh, DTS menyimpan catatan di database tujuan. Catatan dari database sumber tidak dimigrasikan.
-
Selama migrasi inkremental, DTS tidak menyimpan catatan di database tujuan. Catatan dari database sumber menimpa catatan di database tujuan.
-
-
Jika skema tabel tidak konsisten, hanya beberapa kolom data yang mungkin dimigrasikan, atau migrasi dapat gagal. Harap berhati-hati.
-
Format of the data delivered to RocketMQ.
Pilih format penyimpanan untuk data yang ditulis ke topik tujuan sesuai kebutuhan bisnis Anda. Untuk informasi selengkapnya, lihat Data storage formats in a message queue.
Synchronize all fields
Saat pernyataan UPDATE dijalankan di sumber, DTS memigrasikan pre-image ke bidang old di topik tujuan. Pengaturan ini mengontrol apakah pre-image mencakup seluruh baris atau hanya bidang yang diperbarui.
CatatanParameter ini hanya tersedia jika Anda mengatur Format of the data delivered to RocketMQ. ke Canal JSON.
-
Yes: Memigrasikan pre-image seluruh baris yang berisi bidang yang diperbarui.
-
No (Default): Hanya memigrasikan pre-image dari bidang yang diperbarui.
Rules of the ordered messages delivered to RocketMQ.
Pilih aturan pengurutan untuk pesan yang ditulis ke topik tujuan sesuai kebutuhan bisnis Anda. Untuk informasi selengkapnya, lihat Message ordering rules for ApsaraMQ for RocketMQ.
Name of DTS producer group
Tentukan grup produsen (ProducerGroup) untuk mengirim pesan ke topik tujuan sesuai kebutuhan bisnis Anda. Untuk informasi selengkapnya, lihat Producers.
CatatanNilai default adalah dts-producer-group.
Limits of RocketMQ messaging transactions per second (TPS)
Tentukan TPS messaging maksimum untuk data yang ditulis ke topik tujuan. Untuk informasi selengkapnya tentang TPS messaging, lihat Computing specifications.
Penting-
Nilai harus kurang dari atau sama dengan TPS maksimum instans ApsaraMQ for RocketMQ. Untuk informasi selengkapnya, lihat Instance specifications.
-
Saat instans migrasi sedang berjalan, TPS messaging aktual instans ApsaraMQ for RocketMQ mungkin berfluktuasi sedikit di sekitar nilai yang ditentukan.
Whether to filter large size of records.
Tentukan apakah akan memfilter pesan yang lebih besar dari 4 MB agar tidak ditulis ke topik tujuan.
PentingJika Anda memilih No, instans migrasi gagal saat pesan yang lebih besar dari 4 MB ditulis ke topik tujuan.
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan case sensitivity untuk nama objek yang dimigrasikan, seperti database, tabel, dan kolom, di instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menjaga case sensitivity konsisten dengan kebijakan default database sumber atau tujuan. Untuk informasi selengkapnya, lihat Case sensitivity of object names in the destination database.
Source Objects
Di kotak Source Objects, klik objek yang akan dimigrasikan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanAnda dapat memilih database atau tabel sebagai objek migrasi.
Selected Objects
Dalam contoh ini, tidak diperlukan konfigurasi tambahan. Anda dapat menggunakan fitur pemetaan untuk menentukan nama topik untuk instans tujuan ApsaraMQ for RocketMQ, mengatur kondisi filter, memilih operasi SQL yang akan dimigrasikan, dan menetapkan kunci partisi. Untuk informasi selengkapnya, lihat object name mapping.
-
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas pada kluster bersama. Anda tidak perlu memilih satu. Jika menginginkan tugas yang lebih stabil, Anda dapat membeli dedicated cluster untuk menjalankan tugas migrasi DTS.
Retry Time for Failed Connections
Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba koneksi ulang. Durasi percobaan ulang default adalah 720 menit. Anda dapat menyesuaikan durasi percobaan ulang ke nilai antara 10 hingga 1440 menit. Kami menyarankan Anda mengatur durasi lebih dari 30 menit. Jika DTS berhasil terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi secara otomatis dilanjutkan. Jika tidak, tugas gagal.
Catatan-
Untuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu percobaan ulang jaringan ditentukan oleh pengaturan tugas yang terakhir dibuat.
-
Karena Anda dikenai biaya selama periode percobaan ulang koneksi, kami menyarankan Anda menyesuaikan waktu percobaan ulang berdasarkan kebutuhan bisnis Anda, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti exception eksekusi DDL atau DML, di database sumber atau tujuan, DTS melaporkan error dan segera mulai mencoba operasi ulang. Durasi percobaan ulang default adalah 10 menit. Anda dapat menyesuaikan durasi percobaan ulang ke nilai antara 1 hingga 1440 menit. Kami menyarankan Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditentukan, tugas migrasi secara otomatis dilanjutkan. Jika tidak, tugas gagal.
PentingNilai Retry Time for Other Issues harus lebih kecil dari nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Selama migrasi penuh, DTS mengonsumsi sumber daya baca dan tulis pada database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban pada database tujuan.
Catatan-
Item konfigurasi ini hanya tersedia jika Anda memilih Full Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instance migrasi berjalan.
Enable Throttling for Incremental Data Migration
Jika diperlukan, Anda juga dapat mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban pada database tujuan.
Catatan-
Item konfigurasi ini hanya tersedia jika Anda memilih Incremental Data Migration untuk Migration Types.
-
Anda juga dapat adjust the incremental migration speed setelah instans migrasi berjalan.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Pilih apakah akan menulis informasi SQL heartbeat ke database sumber saat instans DTS berjalan.
-
Yes: Informasi SQL heartbeat tidak ditulis ke database sumber. Hal ini dapat menyebabkan instans DTS melaporkan delay.
-
No: Menulis informasi SQL heartbeat ke database sumber. Hal ini dapat mengganggu fitur seperti backup fisik dan cloning database sumber.
Environment Tag
Anda dapat memilih tag lingkungan untuk mengidentifikasi instans. Dalam contoh ini, tidak diperlukan tag.
Configure ETL
Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi selengkapnya, lihat What is ETL?. Nilai yang valid:
-
Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Configure ETL in a data migration or data synchronization task.
-
No: Menonaktifkan fitur ETL.
Monitoring and Alerting
Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan sesuai kebutuhan bisnis Anda.
-
No: Tidak mengatur peringatan.
-
Yes: Konfigurasikan peringatan dengan mengatur alert threshold dan alert notifications. Jika migrasi gagal atau latensi melebihi ambang batas, sistem mengirimkan pemberitahuan peringatan.
-
-
-
Simpan tugas dan jalankan pemeriksaan awal.
-
Untuk melihat parameter konfigurasi instans ini saat Anda memanggil operasi API, arahkan pointer ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di balon yang muncul.
-
Jika Anda tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum tugas migrasi dimulai, DTS melakukan pemeriksaan awal. Tugas hanya dimulai setelah lolos pemeriksaan awal.
-
Jika pemeriksaan awal gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan kembali pemeriksaan awal.
-
Jika peringatan dilaporkan selama pemeriksaan awal:
-
Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan kembali pemeriksaan awal.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.
-
-
-
Beli instans.
-
Saat Success Rate mencapai 100%, klik Next: Purchase Instance.
-
Di halaman Purchase, pilih spesifikasi link untuk instans migrasi data. Untuk informasi selengkapnya, lihat tabel berikut.
Kategori
Parameter
Deskripsi
New Instance Class
Resource Group Settings
Pilih kelompok sumber daya tempat instans tersebut berada. Nilai default adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat What is Resource Management?
Instance Class
DTS menyediakan spesifikasi migrasi dengan tingkat kinerja berbeda. Spesifikasi link memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Data migration link specifications.
-
Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
-
Klik Buy and Start. Di kotak dialog OK yang muncul, klik OK.
Anda dapat melihat progres tugas migrasi di halaman daftar Data Migration Tasks.
Catatan-
Jika tugas migrasi tidak mencakup migrasi inkremental, tugas akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status-nya berubah menjadi Completed.
-
Jika tugas migrasi mencakup migrasi inkremental, tugas tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.
-
-
Informasi pemetaan
-
Di daftar Selected Objects, arahkan kursor ke nama topik tujuan.
-
Klik Edit.
-
Di kotak dialog, konfigurasikan informasi pemetaan.
Catatan-
Jika Anda mengonfigurasi aturan pemetaan baik di tingkat database maupun tabel, aturan tingkat tabel memiliki prioritas lebih tinggi daripada aturan tingkat database.
-
Pemetaan tingkat database dikonfigurasi di kotak dialog Edit Schema, dan pemetaan tingkat tabel dikonfigurasi di kotak dialog Edit Table.
Tingkat database
Parameter
Deskripsi
Schema Name
Nama topik tujuan untuk migrasi data, yang secara default mengikuti Topic yang Anda pilih di bawah Destination Database pada langkah Configurations for Source and Destination Databases.
Penting-
Nama topik tujuan untuk migrasi data, yang secara default mengikuti Topic yang Anda pilih di bawah Destination Database pada langkah Configurations for Source and Destination Databases.
-
Jika Anda mengubah Schema Name, DTS menulis data ke topik yang Anda tentukan.
Select DDL and DML Operations to Be Synchronized
Pilih operasi SQL yang akan dimigrasikan secara inkremental.
Tingkat tabel
Parameter
Deskripsi
Table Name
Nama topik tujuan untuk migrasi data, yang secara default mengikuti Topic yang Anda pilih di bawah Destination Database pada langkah Configurations for Source and Destination Databases.
Penting-
Topik yang ditentukan harus ada di instans tujuan Message Queue for Apache RocketMQ. Jika tidak, tugas migrasi data gagal.
-
Jika Anda mengubah Table Name, DTS menulis data ke topik yang Anda tentukan.
Filter Conditions
Untuk informasi selengkapnya, lihat Set filter conditions.
Select DDL and DML Operations to Be Synchronized
Pilih operasi SQL yang akan dimigrasikan secara inkremental.
Partition Key
Parameter ini tersedia jika Anda mengatur Rules of the ordered messages delivered to RocketMQ. ke Deliver data based on hash values of a specified column.. Tentukan satu atau beberapa kolom sebagai kunci partisi. DTS menggunakan kunci ini untuk menghitung nilai hash, yang menentukan partisi tujuan untuk setiap baris.
-
-
Klik OK.