migrasi data antar klaster AnalyticDB for MySQL V3.0 - Data Transmission Service

Topik ini menjelaskan cara menggunakan Data Transmission Service (DTS) untuk memigrasikan data antar klaster AnalyticDB for MySQL V3.0.

Prasyarat

Klaster tujuan AnalyticDB for MySQL V3.0 klaster harus tersedia dengan ruang penyimpanan lebih besar daripada yang digunakan oleh klaster sumber AnalyticDB for MySQL V3.0 klaster.
Untuk melakukan migrasi data inkremental, Anda harus mengaktifkan fitur change data capture (CDC) pada klaster sumber AnalyticDB for MySQL V3.0 dan mengaktifkan binary log untuk tabel-tabel yang akan dimigrasikan.
Catatan
Jika klaster AnalyticDB for MySQL V3.0 menjalankan versi engine sebelum 3.2.1.0, Anda harus melakukan upgrade versi engine tersebut.

Batasan

Catatan

Selama migrasi skema, DTS tidak memigrasikan kunci asing dari database sumber ke database tujuan.
Selama migrasi data penuh dan migrasi data inkremental, DTS sementara menonaktifkan pemeriksaan constraint dan operasi cascading kunci asing pada tingkat session. Jika operasi cascading update atau delete terjadi di database sumber saat tugas sedang berjalan, ketidakkonsistenan data dapat terjadi.

Type	Description
Batasan database sumber	Persyaratan bandwidth: Server yang menghosting database sumber harus memiliki bandwidth outbound yang mencukupi. Jika tidak, kecepatan migrasi data akan melambat. Untuk memigrasikan data inkremental, klaster AnalyticDB for MySQL V3.0 harus menjalankan versi engine 3.2.1.0 atau lebih baru. Setiap tabel yang akan dimigrasikan harus memiliki kunci primer kustom dengan nilai unik. Jika tidak, data duplikat mungkin ditulis ke database tujuan. Catatan Jika kunci primer tabel yang akan dimigrasikan adalah `__adb_auto_id__` yang dibuat otomatis, DTS tidak dapat memigrasikan data dari tabel tersebut. Selama migrasi skema dan migrasi data penuh, jangan lakukan operasi DDL untuk mengubah skema database atau tabel. Jika dilakukan, instans migrasi akan gagal. Jika Anda hanya melakukan migrasi data penuh, jangan menulis data baru ke instans sumber selama migrasi. Jika dilakukan, data antara database sumber dan tujuan akan menjadi tidak konsisten. Untuk memastikan konsistensi data secara real-time, kami menyarankan Anda memilih migrasi skema, migrasi data penuh, dan migrasi data inkremental.
Batasan lainnya	Instans migrasi data inkremental hanya dapat memigrasikan data dari satu tabel. Untuk memigrasikan beberapa tabel secara inkremental, buat instans migrasi terpisah untuk setiap tabel. Database tujuan harus memiliki kunci primer kustom. Atau, pada langkah Configurations for Databases, Tables, and Columns, atur Primary Key Column. Jika tidak, migrasi mungkin gagal. Fitur verifikasi data tidak didukung. Jika instans migrasi dijeda lebih dari satu hari, binary log klaster sumber AnalyticDB for MySQL V3.0 mungkin kedaluwarsa, dan instans tersebut mungkin tidak dapat dipulihkan. Jangan nonaktifkan binary log klaster sumber AnalyticDB for MySQL V3.0 selama instans migrasi sedang berjalan. Jika dilakukan, instans akan gagal dan tidak dapat dilanjutkan. Jika instans gagal karena Anda menonaktifkan binary log di sumber, Anda harus membuat instans baru untuk mengatasi masalah tersebut. Karena batasan penggunaan klaster AnalyticDB for MySQL V3.0, jika penggunaan ruang disk pada suatu node dalam klaster melebihi 80%, instans DTS mungkin mengalami latensi. Oleh karena itu, evaluasi ruang penyimpanan yang diperlukan berdasarkan objek yang akan dimigrasikan untuk memastikan klaster tujuan memiliki ruang penyimpanan yang cukup. Jika klaster tujuan AnalyticDB for MySQL V3.0 sedang melakukan backup saat instans DTS berjalan, instans tersebut akan gagal. Migrasi data penuh melibatkan operasi INSERT konkuren, yang menyebabkan fragmentasi pada tabel database tujuan. Setelah migrasi data penuh selesai, tabel tujuan menempati ruang penyimpanan lebih besar daripada tabel sumber. Selama migrasi data penuh, DTS mengonsumsi sumber daya baca dan tulis pada database sumber dan tujuan, yang dapat meningkatkan beban database. Evaluasi kinerja database sumber dan tujuan sebelum migrasi data. Lakukan migrasi data selama jam sepi, misalnya ketika penggunaan CPU kedua database berada di bawah 30%. Ketika database tujuan adalah klaster AnalyticDB for MySQL, DTS hanya mendukung penulisan tipe data yang didukung oleh klaster tersebut. Ini termasuk tipe data dasar dan tipe data kompleks seperti ARRAY, MAP, dan JSON. Tipe lain seperti MULTIVALUE tidak didukung. Jika tugas gagal, staf dukungan DTS akan berusaha memulihkannya dalam waktu delapan jam. Selama pemulihan, mereka mungkin me-restart tugas atau menyesuaikan parameternya. Catatan Hanya parameter tugas DTS yang dimodifikasi—bukan parameter database. Parameter yang mungkin disesuaikan termasuk yang tercantum dalam Modify instance parameters.

Penagihan

Tipe migrasi	Biaya konfigurasi instans	Biaya Lalu Lintas Internet
Migrasi skema dan migrasi data penuh	Gratis.	Saat parameter Access Method dari database tujuan diatur ke Public IP Address, Anda akan dikenai biaya untuk lalu lintas internet. Untuk informasi selengkapnya, lihat Gambaran umum penagihan.
Migrasi data inkremental	Dikenai biaya. Untuk informasi lebih lanjut, lihat Billing overview.

Operasi SQL yang didukung untuk migrasi inkremental

Tipe operasi	Pernyataan SQL
DML	INSERT, UPDATE, DELETE Catatan Ketika data ditulis ke klaster AnalyticDB for MySQL V3.0, pernyataan UPDATE secara otomatis dikonversi menjadi pernyataan REPLACE INTO. Jika kunci primer diperbarui, pernyataan tersebut dikonversi menjadi operasi DELETE dan INSERT.
DDL	ADD COLUMN, DROP COLUMN

Izin yang diperlukan untuk akun database

Database	Izin yang diperlukan	Pembuatan dan otorisasi
Klaster sumber AnalyticDB for MySQL V3.0	Izin baca pada objek yang akan dimigrasikan.	Create a database account
Klaster tujuan AnalyticDB for MySQL V3.0	Izin baca dan tulis pada database tujuan.	Create a database account

Prosedur

Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.
Dari Konsol DTS
1. Login ke Konsol Data Transmission Service (DTS).
2. Pada panel navigasi kiri, klik Data Migration.
3. Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.
Dari Konsol DMS

Catatan
Operasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi lebih lanjut, lihat Simple mode console dan Customize the layout and style of the DMS console.
1. Login ke Konsol Data Management (DMS).
2. Pada bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Migration.
3. Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.
Klik Create Task untuk membuka halaman konfigurasi tugas.

Konfigurasikan database sumber dan tujuan.

Kategori	Parameter	Deskripsi
N/A	Task Name	DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tersebut tidak perlu unik.
Source Database	Select Existing Connection	Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah ini akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, parameter ini bernama Select a DMS database instance.. Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan informasi database secara manual di bawah ini.
	Database Type	Pilih AnalyticDB for MySQL 3.0.
	Access Method	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat klaster sumber AnalyticDB for MySQL V3.0 berada.
	Replicate Data Across Alibaba Cloud Accounts	Dalam contoh ini, instans database di bawah Akun Alibaba Cloud saat ini digunakan. Pilih No.
	Instance ID	Pilih ID klaster sumber AnalyticDB for MySQL V3.0.
	Database Account	Masukkan akun database klaster sumber AnalyticDB for MySQL V3.0. Untuk informasi tentang izin yang diperlukan, lihat Required permissions for database accounts.
	Database Password	Masukkan password untuk akun database tersebut.
Destination Database	Select Existing Connection	Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah ini akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, parameter ini bernama Select a DMS database instance.. Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan informasi database secara manual di bawah ini.
	Database Type	Pilih AnalyticDB for MySQL 3.0.
	Access Method	Pilih Alibaba Cloud Instance.
	Instance Region	Pilih wilayah tempat klaster tujuan AnalyticDB for MySQL V3.0 berada.
	Instance ID	Pilih ID klaster tujuan AnalyticDB for MySQL V3.0.
	Database Account	Masukkan akun database klaster tujuan AnalyticDB for MySQL V3.0. Untuk informasi tentang izin yang diperlukan, lihat Required permissions for database accounts.
	Database Password	Masukkan password untuk akun database tersebut.

Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.

Catatan
Pastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi lebih lanjut, lihat Add DTS server IP addresses to a whitelist.

Konfigurasikan objek tugas.

Pada halaman Configure Objects, konfigurasikan objek yang ingin Anda migrasikan.

Parameter	Deskripsi
Migration Types	Jika Anda hanya perlu melakukan migrasi penuh, pilih Schema Migration dan Full Data Migration. Untuk melakukan migrasi tanpa downtime, pilih Schema Migration, Full Data Migration, dan Incremental Data Migration. Catatan Jika Anda tidak memilih Schema Migration, Anda harus memastikan bahwa database dan tabel untuk menerima data sudah ada di database tujuan. Anda juga dapat menggunakan fitur pemetaan nama objek di kotak Selected Objects sesuai kebutuhan. Jika Anda tidak memilih Incremental Data Migration, jangan menulis data baru ke instans sumber selama migrasi data untuk memastikan konsistensi data.
DDL and DML Operations to Be Synchronized	Ketika Anda memilih Migration Types untuk Incremental Data Migration, Anda juga dapat memilih operasi untuk migrasi inkremental pada tingkat instans. Catatan Untuk memilih operasi untuk migrasi inkremental pada tingkat tabel, klik kanan objek migrasi di Selected Objects dan pilih operasi yang diinginkan di kotak dialog yang muncul.
Merge Tables	Ketika Anda tidak memilih Migration Types untuk Incremental Data Migration, Anda juga dapat mengonfigurasi apakah akan mengaktifkan fitur penggabungan tabel. Jika Anda memilih Yes, DTS menambahkan kolom `__dts_data_source` ke setiap tabel untuk mencatat sumber data. Untuk informasi lebih lanjut, lihat Enable multi-table merge. Jika Anda memilih No, ini adalah opsi default. Catatan Fitur penggabungan tabel dikonfigurasi pada tingkat tugas, bukan tingkat tabel. Untuk menggabungkan beberapa tabel tetapi tidak yang lain, Anda harus membuat dua tugas migrasi data terpisah. Peringatan Jangan lakukan operasi DDL untuk mengubah skema database atau tabel sumber. Jika dilakukan, ketidakkonsistenan data atau kegagalan tugas dapat terjadi.
Processing Mode of Conflicting Tables	Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, pemeriksaan awal lolos. Jika ada tabel dengan nama yang sama, kesalahan dilaporkan selama pemeriksaan awal, dan tugas migrasi data tidak dimulai. Catatan Jika tabel di database tujuan memiliki nama yang sama tetapi tidak dapat dengan mudah dihapus atau diganti namanya, Anda dapat mengubah nama tabel di database tujuan. Untuk informasi lebih lanjut, lihat Object name mapping. Ignore Errors and Proceed: Melewati pemeriksaan untuk tabel dengan nama yang sama. Peringatan Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan risiko bisnis. Misalnya: Jika skema tabel konsisten dan catatan di database tujuan memiliki nilai kunci primer yang sama dengan catatan di database sumber: Selama migrasi penuh, DTS menyimpan catatan di database tujuan. Catatan dari database sumber tidak dimigrasikan. Selama migrasi inkremental, DTS tidak menyimpan catatan di database tujuan. Catatan dari database sumber menimpa catatan di database tujuan. Jika skema tabel tidak konsisten, hanya beberapa kolom data yang mungkin dimigrasikan, atau migrasi mungkin gagal. Lanjutkan dengan hati-hati.
Source Objects	Di kotak Source Objects, klik objek yang akan dimigrasikan, lalu klik untuk memindahkannya ke kotak Selected Objects. Penting Jika Anda memilih Migration Types untuk Incremental Data Migration, Anda hanya dapat memilih satu tabel sebagai objek migrasi. Jika Anda tidak memilih Migration Types untuk Incremental Data Migration, Anda dapat memilih database, tabel, atau kolom sebagai objek migrasi. Jika Anda memilih seluruh database sebagai objek migrasi, aturan default berikut berlaku: Jika tabel di database sumber memiliki kunci primer (kolom tunggal atau komposit), kolom kunci primer tersebut digunakan sebagai kunci distribusi. Jika tabel di database sumber tidak memiliki kunci primer, kolom kunci primer auto-increment dibuat secara otomatis. Hal ini dapat menyebabkan ketidakkonsistenan data antara database sumber dan tujuan.
Selected Objects	Untuk mengatur nama objek migrasi di instans tujuan, atau menentukan objek yang menerima data di instans tujuan, klik kanan objek migrasi di kotak Selected Objects untuk melakukan perubahan. Untuk informasi lebih lanjut, lihat Object name mapping. Untuk menghapus objek migrasi yang dipilih, klik objek tersebut di kotak Selected Objects, lalu klik untuk memindahkannya ke kotak Source Objects. Catatan Jika Anda menggunakan fitur pemetaan nama objek, objek lain yang bergantung pada objek yang dipetakan mungkin gagal dimigrasikan. Untuk mengatur klausa WHERE untuk memfilter data, klik kanan tabel yang akan dimigrasikan di kotak Selected Objects dan atur kondisi filter di kotak dialog yang muncul. Untuk informasi lebih lanjut tentang cara mengatur kondisi, lihat Set filter conditions. Untuk memilih operasi SQL untuk migrasi inkremental, klik kanan objek migrasi di kotak Selected Objects dan pilih operasi SQL yang diinginkan di kotak dialog yang muncul.

Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

Parameter	Deskripsi
Dedicated Cluster for Task Scheduling	Secara default, DTS menjadwalkan tugas pada klaster bersama. Anda tidak perlu memilihnya. Jika Anda menginginkan tugas yang lebih stabil, Anda dapat membeli dedicated cluster untuk menjalankan tugas migrasi DTS.
Retry Time for Failed Connections	Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan kesalahan dan segera mulai mencoba kembali koneksi tersebut. Durasi percobaan ulang default adalah 720 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 10 hingga 1440 menit. Kami menyarankan Anda mengatur durasi lebih dari 30 menit. Jika DTS berhasil terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal. Catatan Untuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu percobaan ulang jaringan ditentukan oleh pengaturan tugas yang terakhir dibuat. Karena Anda dikenai biaya untuk tugas selama periode percobaan ulang koneksi, kami menyarankan Anda menyesuaikan waktu percobaan ulang berdasarkan kebutuhan bisnis Anda, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues	Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti pengecualian eksekusi DDL atau DML, di database sumber atau tujuan, DTS melaporkan kesalahan dan segera mulai mencoba kembali operasi tersebut. Durasi percobaan ulang default adalah 10 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 1 hingga 1440 menit. Kami menyarankan Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas akan gagal. Penting Nilai Retry Time for Other Issues harus lebih kecil daripada nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Migration	Selama migrasi penuh, DTS mengonsumsi sumber daya baca dan tulis pada database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban pada database tujuan. Catatan Item konfigurasi ini tersedia hanya jika Anda memilih Full Data Migration untuk Migration Types. Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instans migrasi sedang berjalan.
Enable Throttling for Incremental Data Migration	Jika diperlukan, Anda juga dapat memilih untuk mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban pada database tujuan. Catatan Item konfigurasi ini tersedia hanya jika Anda memilih Incremental Data Migration untuk Migration Types. Anda juga dapat menyesuaikan kecepatan migrasi inkremental setelah instans migrasi sedang berjalan.
Environment Tag	Anda dapat memilih tag lingkungan untuk mengidentifikasi instans berdasarkan kebutuhan bisnis Anda. Dalam contoh ini, tidak diperlukan tag.
Configure ETL	Pilih apakah akan mengaktifkan fitur extract, transform, and load (ETL). Untuk informasi lebih lanjut, lihat What is ETL? Nilai yang valid: Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi lebih lanjut, lihat Configure ETL in a data migration or data synchronization task. No: Menonaktifkan fitur ETL.
Monitoring and Alerting	Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan berdasarkan kebutuhan bisnis Anda. No: Tidak mengatur peringatan. Yes: Konfigurasikan peringatan dengan mengatur alert threshold dan alert notifications. Jika migrasi gagal atau latensi melebihi ambang batas, sistem akan mengirim pemberitahuan peringatan.

Klik Next: Data Validation untuk mengonfigurasi tugas validasi data.

Untuk informasi lebih lanjut tentang fitur validasi data, lihat Configure data validation.
Opsional: Setelah menyelesaikan konfigurasi di atas, klik Next: Configure Database and Table Fields untuk mengatur Type, Primary Key Column, Distribution Key, dan informasi kunci partisi (Partition Key, Partitioning Rules, dan Partition Lifecycle) untuk tabel yang akan dimigrasikan di database tujuan.
Catatan
- Langkah ini tersedia hanya jika Anda memilih Migration Types untuk Schema Migration saat mengonfigurasi objek migrasi. Anda dapat mengatur Definition Status ke All untuk melakukan modifikasi.
- Anda dapat memilih beberapa kolom untuk membentuk kunci primer komposit untuk Primary Key Column. Anda harus memilih satu atau beberapa kolom dari Primary Key Column untuk berfungsi sebagai Distribution Key dan Partition Key. Untuk informasi lebih lanjut, lihat CREATE TABLE.

Simpan tugas dan jalankan pemeriksaan awal.
- Untuk melihat parameter konfigurasi instans ini saat memanggil operasi API, arahkan pointer ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung yang muncul.
- Jika Anda tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan
- Sebelum tugas migrasi dimulai, DTS melakukan pemeriksaan awal. Tugas hanya akan dimulai setelah lolos pemeriksaan awal.
- Jika pemeriksaan awal gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan kembali pemeriksaan awal.
- Jika peringatan dilaporkan selama pemeriksaan awal:
  
  Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan kembali pemeriksaan awal.
  
  Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

Beli instans.

Ketika Success Rate mencapai 100%, klik Next: Purchase Instance.

Pada halaman Purchase, pilih spesifikasi link untuk instans migrasi data. Untuk informasi lebih lanjut, lihat tabel berikut.

Kategori	Parameter	Deskripsi
New Instance Class	Resource Group Settings	Pilih kelompok sumber daya tempat instans tersebut berada. Nilai default adalah default resource group. Untuk informasi lebih lanjut, lihat What is Resource Management?
New Instance Class	Instance Class	DTS menyediakan spesifikasi migrasi dengan tingkat kinerja berbeda. Spesifikasi link memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi lebih lanjut, lihat Data migration link specifications.

Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
Klik Buy and Start. Di kotak dialog OK yang muncul, klik OK.

Anda dapat melihat progres tugas migrasi di halaman daftar Data Migration Tasks.
Catatan
- Jika tugas migrasi tidak mencakup migrasi inkremental, tugas tersebut akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status-nya berubah menjadi Completed.
- Jika tugas migrasi mencakup migrasi inkremental, tugas tersebut tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.