Data Transmission Service:Migrasi dari MongoDB ke AnalyticDB for MySQL V3.0

Prasyarat

• Jika sumbernya adalah kluster sharded ApsaraDB for MongoDB, ajukan endpoint untuk setiap shard. Username dan password untuk semua shard harus identik. Untuk informasi lebih lanjut, lihat Ajukan endpoint shard.

• Anda memiliki kluster tujuan AnalyticDB for MySQL 3.0 dengan kapasitas penyimpanan yang lebih besar daripada kapasitas yang digunakan oleh instans sumber ApsaraDB for MongoDB. Untuk informasi lebih lanjut, lihat Buat kluster.

  Catatan

  Kapasitas penyimpanan instans tujuan harus setidaknya 10% lebih besar daripada kapasitas yang digunakan oleh instans sumber.

• Di kluster tujuan AnalyticDB for MySQL 3.0, Anda telah membuat database dan tabel dengan primary key. Untuk informasi lebih lanjut, lihat CREATE DATABASE dan CREATE TABLE.

  Penting

  • Tipe data di tabel tujuan harus kompatibel dengan data di instans MongoDB sumber. Misalnya, jika field _id di MongoDB bertipe ObjectId, tipe data yang sesuai di kluster AnalyticDB for MySQL 3.0 harus varchar.

  • Di kluster AnalyticDB for MySQL 3.0, jangan beri nama kolom di tabel tujuan _id atau _value.

• Jalankan perintah SET ADB_CONFIG ALLOW_MULTI_QUERIES=true; di kluster tujuan AnalyticDB for MySQL 3.0 untuk mengaktifkan fitur Multi-Statement.

  Catatan

  Hanya kluster dengan versi minor 3.1.9.3 atau lebih baru yang mendukung fitur Multi-Statement. Untuk melihat dan meningkatkan versi minor, lihat Tingkatkan versi minor.

Catatan penggunaan

Penagihan

Tipe migrasi

Izin akun database

Prosedur

1. Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.

   Dari Konsol DTS

   1. Login ke Konsol Data Transmission Service (DTS).

   2. Di panel navigasi kiri, klik Data Migration.

   3. Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.

   Dari Konsol DMS

   Catatan

   Operasi aktual mungkin berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi lebih lanjut, lihat Konsol mode sederhana dan Sesuaikan tata letak dan gaya Konsol DMS.

   1. Login ke Konsol Data Management (DMS).

   2. Di bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Migration.

   3. Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.

2. Klik Create Task untuk membuka halaman konfigurasi tugas.

3. Konfigurasikan database sumber dan tujuan.

   Kategori	Parameter	Deskripsi
   N/A	Task Name	DTS secara otomatis menghasilkan nama tugas. Kami merekomendasikan Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tidak harus unik.
   Source Database	Select Existing Connection	Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, parameter ini bernama Select a DMS database instance.. Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans yang terdaftar, konfigurasikan informasi database secara manual di bawah.
   	Database Type	Pilih MongoDB.
   	Access Method	Pilih Alibaba Cloud Instance.
   	Instance Region	Pilih wilayah instans sumber ApsaraDB for MongoDB.
   	Replicate Data Across Alibaba Cloud Accounts	Dalam contoh ini, digunakan instans database di bawah Akun Alibaba Cloud saat ini. Pilih No.
   	Architecture	Contoh ini memilih Replica Set. Catatan Jika instans sumber ApsaraDB for MongoDB Anda menggunakan Sharded Cluster, Anda juga harus menentukan Shard account dan Shard password.
   	Migration Method	Pilih metode untuk migrasi data inkremental sesuai kebutuhan Anda. Oplog (Direkomendasikan): Opsi ini tersedia jika oplog diaktifkan untuk database sumber. Catatan Oplog diaktifkan secara default baik untuk database MongoDB yang dikelola sendiri maupun instans ApsaraDB for MongoDB. Metode ini menawarkan latensi lebih rendah untuk migrasi data inkremental karena pulling log yang lebih cepat. Oleh karena itu, kami merekomendasikan memilih Oplog. ChangeStream: Opsi ini tersedia jika Change Streams diaktifkan untuk database sumber. Catatan Jika database sumber adalah instans Amazon DocumentDB (kluster non-elastis), Anda hanya dapat memilih ChangeStream. Jika Anda mengatur Architecture ke Sharded Cluster untuk database sumber, Anda tidak perlu memasukkan Shard account atau Shard password.
   	Instance ID	Pilih ID instans sumber ApsaraDB for MongoDB.
   	Authentication Database	Masukkan nama database tempat akun database instans sumber ApsaraDB for MongoDB berada. Nilai default adalah admin jika belum diubah.
   	Database Account	Masukkan akun database instans sumber ApsaraDB for MongoDB. Untuk informasi tentang izin yang diperlukan, lihat Izin yang diperlukan untuk akun database.
   	Database Password	Masukkan password yang sesuai dengan akun database tersebut.
   	Encryption	DTS mendukung tiga metode koneksi: Non-encrypted, SSL-encrypted, dan Mongo Atlas SSL. Opsi untuk Encryption bervariasi berdasarkan Access Method dan Architecture yang dipilih. Opsi yang ditampilkan di konsol berlaku. Catatan Database MongoDB dengan Architecture Sharded Cluster dan Migration Method Oplog tidak mendukung SSL-encrypted. Jika sumbernya adalah database MongoDB yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance) dengan arsitektur Replica Set, dan Anda memilih SSL-encrypted, DTS juga memungkinkan Anda mengunggah sertifikat CA untuk memverifikasi koneksi.
   Destination Database	Select Existing Connection	Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, parameter ini bernama Select a DMS database instance.. Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans yang terdaftar, konfigurasikan informasi database secara manual di bawah.
   	Database Type	Pilih AnalyticDB for MySQL 3.0.
   	Access Method	Pilih Alibaba Cloud Instance.
   	Instance Region	Pilih wilayah kluster tujuan AnalyticDB for MySQL 3.0.
   	Instance ID	Pilih ID kluster tujuan AnalyticDB for MySQL 3.0.
   	Database Account	Masukkan akun database kluster tujuan AnalyticDB for MySQL 3.0. Untuk informasi tentang izin yang diperlukan, lihat Izin yang diperlukan untuk akun database.
   	Database Password	Masukkan password yang sesuai dengan akun database tersebut.

4. Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.

   Catatan

   • Pastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi lebih lanjut, lihat Tambahkan alamat IP server DTS ke daftar putih.

   • Jika database sumber atau tujuan adalah database yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers yang muncul.

5. Konfigurasikan objek tugas.

   1. Di halaman Configure Objects, konfigurasikan objek yang ingin dimigrasikan.

      Parameter	Deskripsi
      Migration Types	Jika hanya perlu melakukan migrasi penuh, pilih Full Data Migration. Untuk melakukan migrasi tanpa downtime, pilih Full Data Migration dan Incremental Data Migration. Catatan Jika Anda tidak memilih Incremental Data Migration, jangan menulis data baru ke instans sumber selama migrasi data untuk memastikan konsistensi data.
      DDL and DML Operations to Be Synchronized	Pilih operasi yang akan dimigrasikan di tingkat instans selama migrasi inkremental. Catatan Untuk memilih operasi inkremental di tingkat collection, klik kanan objek migrasi di bagian Selected Objects dan pilih operasi yang diinginkan di kotak dialog yang muncul.
      Merge Tables	Jika Anda memilih Yes, DTS menambahkan kolom __dts_data_source ke setiap tabel untuk mencatat sumber data. Untuk informasi lebih lanjut, lihat Aktifkan penggabungan multi-tabel. Jika Anda memilih No, ini adalah opsi default. Catatan Fitur penggabungan tabel dikonfigurasi di tingkat tugas, bukan di tingkat tabel. Untuk menggabungkan beberapa tabel tetapi tidak yang lain, Anda harus membuat dua tugas migrasi data terpisah. Peringatan Jangan lakukan operasi DDL untuk mengubah skema database atau tabel sumber. Jika dilakukan, ketidakkonsistenan data atau kegagalan tugas mungkin terjadi.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: Memeriksa apakah collection dengan nama yang sama ada di database tujuan. Jika tidak ada collection dengan nama yang sama, pemeriksaan awal lolos. Jika ada collection dengan nama yang sama, kesalahan dilaporkan selama pemeriksaan awal, dan tugas migrasi data tidak dimulai. Catatan Jika collection di database tujuan memiliki nama yang sama tetapi tidak dapat dengan mudah dihapus atau diganti namanya, Anda dapat mengubah nama collection di database tujuan. Untuk informasi lebih lanjut, lihat Pemetaan nama objek. Ignore Errors and Proceed: Melewati pemeriksaan collection dengan nama yang sama. Peringatan Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan risiko bisnis. Misalnya: Jika catatan di database tujuan memiliki nilai primary key yang sama dengan catatan di database sumber, catatan di database tujuan dipertahankan. Catatan dari database sumber tidak dimigrasikan ke database tujuan. Inisialisasi data mungkin gagal, hanya sebagian data yang dimigrasikan, atau migrasi gagal.
      Source Objects	Di kotak Source Objects, klik objek yang akan dimigrasikan, lalu klik untuk memindahkannya ke kotak Selected Objects. Catatan Objek migrasi dapat dipilih di tingkat collection.
      Selected Objects	Edit pemetaan nama database. Di kotak Selected Objects, klik kanan database yang berisi collection yang akan dimigrasikan. Ubah Schema Name menjadi nama database tujuan di kluster AnalyticDB for MySQL 3.0. Di kotak dialog Edit Schema yang muncul, ubah Schema Name (misalnya, menjadi dtsdb). Opsional: Di bagian Select DDL and DML Operations to Be Synchronized, pilih operasi DML yang akan dimigrasikan, seperti insert, update, dan delete. Klik OK. Edit pemetaan nama tabel. Di kotak Selected Objects, klik kanan collection yang akan dimigrasikan. Panel Selected Objects menampilkan struktur pohon objek di database (seperti dtsdb), termasuk tipe objek (seperti Table) dan objek spesifik (seperti class). Ubah Table Name menjadi nama tabel tujuan di kluster AnalyticDB for MySQL 3.0. Di halaman Edit Table yang muncul, Anda dapat mengubah Table Name (yang dalam contoh ini adalah class). Setelah mengedit nama tabel atau kolom, nama di database tujuan akan berubah sesuai. Opsional: Atur kondisi filter untuk migrasi penuh. Untuk informasi lebih lanjut, lihat Atur kondisi filter. Untuk ApsaraDB for MongoDB, sintaks yang didukung untuk kondisi filter berbeda dari klausa WHERE SQL standar. Misalnya, untuk memfilter berdasarkan ID pengguna, masukkan kondisi berikut: {"_id": {$gt:"user100844658590795****",$lte:"user101674868045948****"}}, di mana $gt berarti lebih besar dari dan $lte berarti kurang dari atau sama dengan. Opsional: Di bagian Select DDL and DML Operations to Be Synchronized, pilih operasi DML yang akan dimigrasikan, seperti insert, update, dan delete. Konfigurasikan field MongoDB yang akan dimigrasikan. Secara default, DTS memetakan data collection yang akan dimigrasikan dan mengonfigurasi ekspresi di kolom Parameter Value. Anda harus memeriksa apakah ekspresi tersebut memenuhi kebutuhan Anda dan mengonfigurasi parameter seperti Column Name, Type, Length, dan Precision. Penting Kolom primary key tabel tujuan harus diberi nilai bson_value("_id"). Saat mengonfigurasi ekspresi bson_value(), Anda harus menentukan hierarki hingga subfield tingkat terendah. Jika tidak, kehilangan data atau kegagalan tugas mungkin terjadi. Di kolom Parameter Value, lihat nama field MongoDB di ekspresi bson_value(). Konten di dalam tanda kutip ("") adalah nama field di MongoDB. Misalnya, jika ekspresinya adalah bson_value("age"), baris ini sesuai dengan field age di MongoDB. Opsional: Hapus field yang tidak perlu dimigrasikan. Catatan Untuk menghapus field yang tidak perlu dimigrasikan, klik ikon di baris field tersebut. Konfigurasikan field yang akan dimigrasikan. Lakukan langkah-langkah berikut berdasarkan apakah ekspresi bson_value() memenuhi kebutuhan Anda. Ekspresi yang cocok Masukkan Column Name. Catatan Masukkan nama kolom di tabel tujuan yang akan menerima data di kluster AnalyticDB for MySQL 3.0. Pilih Type data untuk kolom tersebut. Penting Pastikan tipe data tabel tujuan kompatibel dengan data MongoDB sumber. Untuk informasi tentang pemetaan tipe data, lihat Pemetaan tipe data. Opsional: Konfigurasikan Length dan Precision untuk data kolom. Ulangi langkah-langkah ini untuk memetakan semua field yang relevan. Ekspresi yang tidak cocok Catatan Contohnya adalah field dengan struktur hierarkis (parent-child). Di kolom Operation, klik ikon di baris field tersebut. Klik + Add Column. Konfigurasikan Column Name, Type, Length, dan Precision. Di kotak teks di bawah Parameter Value, masukkan ekspresi bson_value(). Untuk informasi lebih lanjut, lihat Contoh konfigurasi assignment. Ulangi langkah-langkah ini untuk memetakan semua field yang relevan. Klik OK.

   2. Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

      Parameter	Deskripsi
      Dedicated Cluster for Task Scheduling	Secara default, DTS menjadwalkan tugas di kluster bersama. Anda tidak perlu memilihnya. Jika Anda menginginkan tugas yang lebih stabil, Anda dapat membeli kluster khusus untuk menjalankan tugas migrasi DTS.
      Retry Time for Failed Connections	Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan kesalahan dan segera mencoba menghubungkan kembali. Durasi percobaan ulang default adalah 720 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 10 hingga 1.440 menit. Kami merekomendasikan Anda mengatur durasi lebih dari 30 menit. Jika DTS berhasil terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal. Catatan Untuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu percobaan ulang jaringan ditentukan oleh pengaturan tugas yang terakhir dibuat. Karena Anda dikenai biaya untuk tugas selama periode percobaan ulang koneksi, kami merekomendasikan Anda menyesuaikan waktu percobaan ulang berdasarkan kebutuhan bisnis Anda, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
      Retry Time for Other Issues	Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti pengecualian eksekusi DDL atau DML, di database sumber atau tujuan, DTS melaporkan kesalahan dan segera mencoba mengulangi operasi tersebut. Durasi percobaan ulang default adalah 10 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 1 hingga 1.440 menit. Kami merekomendasikan Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal. Penting Nilai Retry Time for Other Issues harus lebih kecil daripada nilai Retry Time for Failed Connections.
      Enable Throttling for Full Data Migration	Selama migrasi penuh, DTS mengonsumsi resource baca dan tulis di database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban pada database tujuan. Catatan Item konfigurasi ini hanya tersedia jika Anda memilih Full Data Migration untuk Migration Types. Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instans migrasi berjalan.
      Only one data type for primary key _id in a table of the data to be synchronized	Dalam data yang akan dimigrasikan, apakah tipe data primary key _id seragam dalam satu collection? Penting Pilih opsi berdasarkan kebutuhan Anda. Jika tidak, kehilangan data mungkin terjadi. Parameter ini hanya tersedia jika Anda memilih Full Data Migration untuk Migration Types. Yes: Tipe data unik. Selama migrasi data penuh, DTS tidak memindai tipe data primary key di data sumber. Untuk satu collection, DTS hanya memigrasikan data yang sesuai dengan satu tipe data primary key. No: Tipe data tidak unik. Selama migrasi data penuh, DTS memindai tipe data primary key di data sumber dan memigrasikan semua data.
      Enable Throttling for Incremental Data Migration	Jika diperlukan, Anda juga dapat memilih untuk mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban pada database tujuan. Catatan Item konfigurasi ini hanya tersedia jika Anda memilih Incremental Data Migration untuk Migration Types. Anda juga dapat menyesuaikan kecepatan migrasi inkremental setelah instans migrasi berjalan.
      Environment Tag	Anda dapat memilih tag lingkungan untuk mengidentifikasi instans. Ini tidak wajib dalam contoh ini.
      Configure ETL	Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, dan muat (ETL). Untuk informasi lebih lanjut, lihat Apa itu ETL? Nilai yang valid: Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi lebih lanjut, lihat Konfigurasi ETL dalam tugas migrasi data atau sinkronisasi data. No: Menonaktifkan fitur ETL.
      Monitoring and Alerting	Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan sesuai kebutuhan bisnis Anda. No: Tidak mengatur peringatan. Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan pemberitahuan peringatan. Jika migrasi gagal atau latensi melebihi ambang batas, sistem akan mengirim pemberitahuan peringatan.

6. Simpan tugas dan jalankan pemeriksaan awal.

   • Untuk melihat parameter konfigurasi instans ini saat memanggil Operasi API, arahkan pointer ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung yang muncul.

   • Jika Anda tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.

   Catatan

   • Sebelum tugas migrasi dimulai, DTS melakukan pemeriksaan awal. Tugas hanya dimulai setelah lolos pemeriksaan awal.

   • Jika pemeriksaan awal gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan pemeriksaan awal lagi.

   • Jika peringatan dilaporkan selama pemeriksaan awal:

     • Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan pemeriksaan awal lagi.

     • Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan pemeriksaan awal lagi. Jika Anda memilih mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

7. Beli instans.

   1. Saat Success Rate mencapai 100%, klik Next: Purchase Instance.

   2. Di halaman Purchase, pilih spesifikasi link untuk instans migrasi data. Untuk informasi lebih lanjut, lihat tabel berikut.

      Kategori	Parameter	Deskripsi
      New Instance Class	Resource Group Settings	Pilih kelompok sumber daya tempat instans tersebut berada. Nilai default adalah kelompok sumber daya default. Untuk informasi lebih lanjut, lihat Apa itu Resource Management?
      	Instance Class	DTS menyediakan spesifikasi migrasi dengan tingkat kinerja berbeda. Spesifikasi link memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi lebih lanjut, lihat Spesifikasi link migrasi data.

   3. Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Klik Buy and Start. Di kotak dialog OK yang muncul, klik OK.

      Anda dapat melihat progres tugas migrasi di halaman daftar Data Migration Tasks.

      Catatan

      • Jika tugas migrasi tidak mencakup migrasi inkremental, tugas akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status-nya berubah menjadi Completed.

      • Jika tugas migrasi mencakup migrasi inkremental, tugas tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.

Pemetaan tipe data

Konfigurasi pemetaan

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":26,
    "sex":"male"
  }
}