Data Transmission Service:Sinkronisasi ApsaraDB for MongoDB ke AnalyticDB for PostgreSQL

Prasyarat

• Anda telah membuat instans AnalyticDB for PostgreSQL sebagai tujuan. Ruang penyimpanannya harus lebih besar daripada ruang penyimpanan yang digunakan oleh instans sumber ApsaraDB for MongoDB. Untuk informasi selengkapnya, lihat Buat instans.

  Catatan

  Ruang penyimpanan instans tujuan sebaiknya minimal 10% lebih besar daripada ruang penyimpanan yang digunakan oleh database sumber.

• Pada instans AnalyticDB for PostgreSQL tujuan, Anda telah membuat database, skema, dan tabel dengan kunci primer. Untuk informasi selengkapnya, lihat Sintaks SQL.

  Penting

  • Pastikan tipe data pada tabel tujuan kompatibel dengan data MongoDB sumber. Misalnya, jika bidang _id di MongoDB bertipe ObjectId, tipe data yang sesuai pada instans AnalyticDB for PostgreSQL harus varchar.

  • Tabel tujuan pada instans AnalyticDB for PostgreSQL tidak boleh memiliki kolom bernama _id atau _value.

• Jika instans sumber ApsaraDB for MongoDB adalah kluster sharded, Anda harus mendapatkan titik akhir untuk semua node shard. Akun dan kata sandi database untuk setiap shard harus sama. Untuk informasi selengkapnya, lihat Ajukan titik akhir shard.

Catatan

Penagihan

Jenis sinkronisasi

Izin akun database

Prosedur

1. Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:

   Dari Konsol DTS

   1. Masuk ke Konsol Data Transmission Service (DTS).

   2. Di panel navigasi kiri, klik Data Synchronization.

   3. Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.

   Dari Konsol DMS

   Catatan

   Operasi aktual mungkin berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Mode sederhana dan Sesuaikan tata letak dan gaya antarmuka DMS.

   1. Masuk ke Data Management (DMS).

   2. Di bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Synchronization.

   3. Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.

2. Klik Create Task untuk membuka halaman konfigurasi tugas.

3. Konfigurasikan database sumber dan tujuan.

   Kategori	Parameter	Deskripsi
   N/A	Task Name	DTS secara otomatis menghasilkan nama tugas. Kami merekomendasikan agar Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tersebut tidak harus unik.
   Source Database	Select Existing Connection	Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, item konfigurasi ini bernama Select a DMS database instance.. Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan informasi database berikut secara manual.
   	Database Type	Pilih MongoDB.
   	Access Method	Pilih Alibaba Cloud Instance.
   	Instance Region	Pilih wilayah tempat instans sumber ApsaraDB for MongoDB berada.
   	Replicate Data Across Alibaba Cloud Accounts	Contoh ini menggunakan instans database yang dimiliki oleh Akun Alibaba Cloud saat ini. Pilih No.
   	Architecture	Pada contoh ini, pilih Replica Set. Catatan Jika instans sumber ApsaraDB for MongoDB Anda menggunakan arsitektur Sharded Cluster, Anda juga harus menentukan Shard account dan Shard password.
   	Migration Method	Pilih metode untuk sinkronisasi data inkremental berdasarkan kebutuhan Anda. Oplog (Direkomendasikan): Opsi ini tersedia jika Oplog diaktifkan untuk database sumber. Catatan Oplog diaktifkan secara default untuk database MongoDB yang dikelola sendiri dan instans ApsaraDB for MongoDB. Metode ini menawarkan latensi lebih rendah untuk tugas sinkronisasi inkremental karena log diambil lebih cepat. Kami merekomendasikan memilih Oplog. ChangeStream: Opsi ini tersedia jika Change Streams diaktifkan untuk database sumber. Catatan Jika database sumber adalah instans Amazon DocumentDB (klaster non-elastis), Anda hanya dapat memilih ChangeStream. Jika Anda mengatur Architecture database sumber ke Sharded Cluster, Anda tidak perlu menentukan Shard account dan Shard password.
   	Instance ID	Pilih ID instans sumber ApsaraDB for MongoDB.
   	Authentication Database	Masukkan nama database tempat akun database instans sumber ApsaraDB for MongoDB berada. Jika Anda belum mengubah namanya, nilai default-nya adalah admin.
   	Database Account	Masukkan akun database instans sumber ApsaraDB for MongoDB. Untuk izin yang diperlukan, lihat Izin yang diperlukan untuk akun database.
   	Database Password	Masukkan kata sandi yang sesuai dengan akun database.
   	Encryption	DTS mendukung tiga metode koneksi: Non-encrypted, SSL-encrypted, dan Mongo Atlas SSL. Opsi untuk Encryption bervariasi berdasarkan Access Method dan Architecture yang dipilih. Opsi yang ditampilkan di konsol berlaku. Catatan Database MongoDB dengan Architecture Sharded Cluster dan Migration Method Oplog tidak mendukung SSL-encrypted. Jika sumbernya adalah database MongoDB yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance) dengan arsitektur Replica Set, dan Anda memilih SSL-encrypted, DTS juga memungkinkan Anda mengunggah sertifikat CA untuk memverifikasi koneksi.
   Destination Database	Select Existing Connection	Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis. Catatan Di Konsol DMS, item konfigurasi ini bernama Select a DMS database instance.. Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan informasi database berikut secara manual.
   	Database Type	Pilih AnalyticDB for PostgreSQL.
   	Access Method	Pilih Alibaba Cloud Instance.
   	Instance Region	Pilih wilayah tempat instans tujuan AnalyticDB for PostgreSQL berada.
   	Instance ID	Pilih ID instans tujuan AnalyticDB for PostgreSQL.
   	Database Name	Masukkan nama database di instans tujuan AnalyticDB for PostgreSQL yang akan menyimpan objek yang disinkronkan.
   	Database Account	Masukkan akun database instans tujuan AnalyticDB for PostgreSQL. Untuk izin yang diperlukan, lihat Izin yang diperlukan untuk akun database.
   	Database Password	Masukkan kata sandi yang sesuai dengan akun database.

4. Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.

   Catatan

   • Pastikan blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Tambahkan blok CIDR alamat IP server DTS ke daftar putih.

   • Jika database sumber atau tujuan adalah database yang dikelola sendiri (di mana Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers.

5. Konfigurasikan objek tugas.

   1. Di halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.

      Parameter	Deskripsi
      Synchronization Types	Incremental Data Synchronization dipilih. Anda hanya dapat memilih Full Data Synchronization. Schema Synchronization tidak didukung. Setelah pemeriksaan awal selesai, DTS menyinkronkan data objek yang dipilih dari instans sumber ke kluster tujuan. Ini berfungsi sebagai data garis dasar untuk sinkronisasi data inkremental berikutnya.
      DDL and DML Operations to Be Synchronized	Pilih operasi inkremental yang akan disinkronkan di tingkat instans. Catatan Untuk memilih operasi inkremental di tingkat koleksi, klik kanan objek sinkronisasi di bagian Selected Objects dan pilih operasi yang diinginkan di kotak dialog yang muncul.
      Processing Mode of Conflicting Tables	Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tabel dengan nama yang sama tidak ada, pemeriksaan awal lolos. Jika tabel dengan nama yang sama ada, pemeriksaan awal gagal dan tugas sinkronisasi data tidak dimulai. Catatan Jika Anda tidak dapat menghapus atau mengganti nama tabel dengan nama yang sama di database tujuan, Anda dapat memetakannya ke nama tabel yang berbeda. Untuk informasi selengkapnya, lihat Petakan nama tabel dan kolom. Ignore Errors and Proceed: Melewati pemeriksaan nama tabel duplikat di database tujuan. Peringatan Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan membahayakan bisnis Anda. Misalnya: Jika skema tabel sama dan catatan di database tujuan memiliki nilai kunci primer atau kunci unik yang sama dengan catatan di database sumber: Selama sinkronisasi penuh, DTS mempertahankan catatan di kluster tujuan. Catatan yang sesuai dari database sumber tidak disinkronkan. Selama sinkronisasi inkremental, catatan dari database sumber menimpa catatan di database tujuan. Jika skema tabel berbeda, sinkronisasi data awal mungkin gagal. Hal ini dapat mengakibatkan hanya data kolom parsial yang disinkronkan atau kegagalan sinkronisasi total. Lakukan dengan hati-hati.
      Source Objects	Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik untuk memindahkannya ke kotak Selected Objects. Catatan Anda dapat memilih objek yang akan disinkronkan di tingkat koleksi.
      Selected Objects	Edit pemetaan nama database. Di kotak Selected Objects, klik kanan database sumber yang berisi koleksi yang akan disinkronkan. Ubah Database Name menjadi nama skema yang menerima data di instans tujuan AnalyticDB for PostgreSQL. Di kotak dialog Edit Database yang muncul, ubah Database Name (nama skema tujuan). Opsional: Di bagian Select DDL and DML Operations to Be Synchronized, pilih operasi DML yang akan disinkronkan: insert, update, dan delete. Klik OK. Edit pemetaan nama tabel. Di kotak Selected Objects, klik kanan koleksi yang akan disinkronkan. Panel Selected Objects menampilkan objek dalam struktur pohon. Tingkatannya adalah: Nama Database Tujuan (misalnya, dtstest) > Table > Nama Tabel Spesifik (misalnya, class). Klik kanan tabel tujuan untuk melakukan operasi selanjutnya. Ubah Table Name menjadi nama tabel yang menerima data di instans tujuan AnalyticDB for PostgreSQL. Di kotak dialog Edit Table yang muncul, ubah Table Name (misalnya, class). Setelah Anda mengedit nama tabel atau kolom, nama tabel dan kolom di database tujuan akan diubah menjadi nama baru. Opsional: Tentukan kondisi filter. Untuk informasi selengkapnya, lihat Atur kondisi filter. Di kotak teks Filter Conditions, Anda dapat memasukkan kondisi filter MongoDB. Sintaksnya berbeda dari klausa WHERE SQL standar. Contoh: {"_id": {$gt:"user100844658590795****",$lte:"user101674868045948****"}}, di mana $gt berarti "lebih besar dari" dan $lte berarti "kurang dari atau sama dengan". Opsional: Di bagian Select DDL and DML Operations to Be Synchronized, pilih insert, update, dan delete. Konfigurasikan bidang yang akan disinkronkan dari database MongoDB. Secara default, DTS memetakan data koleksi yang akan disinkronkan dan mengonfigurasi ekspresi di kolom Parameter Value. Anda harus memeriksa apakah ekspresi tersebut memenuhi kebutuhan Anda dan mengonfigurasi parameter seperti Column Name, Type, Length, dan Precision. Di ekspresi bson_value() kolom Parameter Value, lihat nama bidang yang sesuai di database MongoDB. Nama bidang di dalam tanda kutip ("") adalah nama bidang di MongoDB. Misalnya, jika ekspresinya adalah bson_value("age"), baris ini sesuai dengan bidang age di MongoDB. Opsional: Hapus bidang yang tidak perlu disinkronkan. Catatan Untuk menghapus bidang yang tidak perlu disinkronkan, klik ikon di ujung baris untuk bidang tersebut. Konfigurasikan bidang yang akan disinkronkan. Lakukan salah satu prosedur berikut berdasarkan apakah ekspresi bson_value() memenuhi kebutuhan Anda. Ekspresi benar Masukkan Column Name. Catatan Ini adalah nama kolom yang akan menerima data di instans tujuan AnalyticDB for PostgreSQL. Pilih Type data untuk kolom tersebut. Penting Pastikan tipe data di tabel tujuan kompatibel dengan data dari database sumber MongoDB. Opsional: Tentukan Length dan Precision untuk data kolom. Ulangi langkah-langkah di atas untuk memetakan setiap bidang yang diperlukan. Ekspresi salah Catatan Misalnya, bidang dengan hubungan hierarkis seperti struktur induk-anak. Di kolom Operation, klik ikon di ujung baris untuk bidang tersebut. Klik + Add Column. Di bagian Additional Columns, klik + Add Column di pojok kanan atas. Konfigurasikan parameter Column Name, Type, Length, dan Precision. Di kotak teks di bawah Parameter Value, masukkan ekspresi bson_value(). Untuk informasi selengkapnya, lihat Contoh konfigurasi nilai. Penting Anda harus menetapkan bson_value("_id") ke kolom kunci primer tabel tujuan. Saat Anda mengonfigurasi ekspresi bson_value(), Anda harus menentukan jalur hingga subfield terkecil berdasarkan hierarki. Jika tidak, kehilangan data atau kegagalan tugas mungkin terjadi. Ulangi langkah-langkah di atas untuk memetakan setiap bidang yang diperlukan. Klik OK.

   2. Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

      Parameter	Deskripsi
      Dedicated Cluster for Task Scheduling	Secara default, DTS menjadwalkan tugas pada kluster bersama, dan Anda tidak perlu memilih kluster. Untuk kinerja yang lebih stabil, Anda dapat membeli kluster khusus untuk menjalankan tugas sinkronisasi DTS. Untuk informasi selengkapnya, lihat Apa itu kluster khusus DTS?.
      Retry Time for Failed Connections	Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba kembali koneksi. Durasi percobaan ulang default adalah 720 menit. Anda juga dapat menentukan durasi percobaan ulang kustom dari 10 hingga 1.440 menit. Kami merekomendasikan agar Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal. Catatan Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu percobaan ulang jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, durasi yang lebih pendek yaitu 30 menit akan digunakan untuk keduanya. Karena DTS mengenakan biaya untuk waktu proses tugas selama periode percobaan ulang koneksi, kami merekomendasikan agar Anda menyesuaikan durasi percobaan ulang berdasarkan kebutuhan bisnis Anda atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
      Retry Time for Other Issues	Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-konektivitas lainnya pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS melaporkan error dan segera mulai operasi percobaan ulang berkelanjutan. Durasi percobaan ulang default adalah 10 menit. Anda juga dapat menyesuaikan durasi percobaan ulang dalam rentang 1 hingga 1.440 menit. Kami merekomendasikan agar Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditetapkan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal. Penting Nilai untuk Retry Time for Other Issues harus lebih kecil daripada Retry Time for Failed Connections.
      Enable Throttling for Full Data Synchronization	Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s). Catatan Item konfigurasi ini hanya tersedia ketika Synchronization Types diatur ke Full Data Synchronization. Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi sedang berjalan.
      Only one data type for primary key _id in a table of the data to be synchronized	Tentukan apakah tipe data kunci primer _id bersifat unik dalam setiap koleksi yang akan disinkronkan. Penting Pilih opsi berdasarkan data aktual Anda. Pemilihan yang salah dapat menyebabkan kehilangan data. Parameter ini hanya tersedia jika Synchronization Types mencakup Full Data Synchronization. Yes: Tipe data bersifat unik. Selama fase sinkronisasi penuh, DTS tidak memindai tipe data kunci primer di data sumber. Untuk setiap koleksi, DTS hanya menyinkronkan data yang sesuai dengan satu tipe data kunci primer. No: Tipe data tidak bersifat unik. Selama fase sinkronisasi penuh, DTS memindai tipe data kunci primer di data sumber dan menyinkronkan semua data.
      Enable Throttling for Incremental Data Synchronization	Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
      Environment Tag	Anda dapat memilih tag lingkungan untuk mengidentifikasi instans berdasarkan kebutuhan bisnis Anda. Pada contoh ini, tidak diperlukan tag.
      Configure ETL	Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, muat (ETL). Untuk informasi selengkapnya, lihat Apa itu ETL? Nilai yang valid: Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Konfigurasikan ETL dalam tugas migrasi data atau sinkronisasi data. No: Menonaktifkan fitur ETL.
      Monitoring and Alerting	Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi akan dikirim ke kontak peringatan. No: Tidak ada peringatan yang dikonfigurasi. Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan menentukan notifikasi peringatan. Untuk informasi selengkapnya, lihat Konfigurasikan pemantauan peringatan selama konfigurasi tugas.

6. Simpan tugas dan jalankan pemeriksaan awal.

   • Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung.

   • Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.

   Catatan

   • Sebelum tugas sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Tugas hanya dapat dimulai setelah semua item pemeriksaan awal lolos.

   • Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan pemeriksaan awal lagi.

   • Jika pemeriksaan awal mengembalikan peringatan:

     • Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti petunjuk untuk memperbaiki masalah, lalu jalankan pemeriksaan awal lagi.

     • Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

7. Beli instans.

   1. Ketika Success Rate mencapai 100%, klik Next: Purchase Instance.

   2. Di halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instans sinkronisasi data. Tabel berikut menjelaskan parameter-parameter ini secara detail.

      Kategori	Parameter	Deskripsi
      New Instance Class	Billing Method	Subscription: Anda membayar saat membuat instans. Ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya daripada pay-as-you-go. Semakin lama durasi langganan, semakin tinggi diskonnya. Pay-as-you-go: Anda dikenai biaya per jam. Ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah digunakan untuk menghemat biaya.
      	Resource Group Configuration	Kelompok sumber daya tempat instans tersebut berada. Default-nya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu Resource Management?.
      	Link Specification	DTS menyediakan spesifikasi sinkronisasi dengan tingkat kinerja berbeda. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link sinkronisasi data.
      	Subscription Duration	Dalam mode subscription, pilih durasi dan jumlah untuk instans langganan. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan, atau langganan tahunan selama 1, 2, 3, atau 5 tahun. Catatan Opsi ini hanya tersedia ketika metode penagihan adalah Subscription.

   3. Setelah menyelesaikan konfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.

   4. Klik Buy and Start. Di kotak dialog OK, klik OK.

      Anda dapat melihat progres tugas di halaman Data Synchronization.

Contoh penugasan nilai

{
  "_id":"62cd344c85c1ea6a2a9f****",
  "person":{
    "name":"neo",
    "age":26,
    "sex":"male"
  }
}