All Products
Search

This Product

    Data Transmission Service:Sinkronkan kluster sharded ke set replika atau kluster sharded

    Document Center

    Data Transmission Service:Sinkronkan kluster sharded ke set replika atau kluster sharded

    Last Updated:Jun 22, 2026

    Layanan Transmisi Data (DTS) memungkinkan Anda menyinkronkan data dari kluster sharded MongoDB ke set replika MongoDB atau kluster sharded. Topik ini memberikan contoh cara menyinkronkan data antara instans ApsaraDB for MongoDB.

    Prasyarat

    • Buat instans set replika atau kluster sharded ApsaraDB for MongoDB tujuan. Untuk petunjuknya, lihat Buat instans set replika atau Buat instans kluster sharded.

      Penting

      • Kami menyarankan agar instans ApsaraDB for MongoDB tujuan memiliki ruang penyimpanan minimal 10% lebih besar daripada instans sumber ApsaraDB for MongoDB.

      • Untuk informasi versi yang didukung, lihat Ikhtisar solusi sinkronisasi.

    • Ajukan titik akhir untuk semua node shard pada instans kluster sharded sumber ApsaraDB for MongoDB, dan pastikan semua shard menggunakan akun dan kata sandi yang sama. Untuk petunjuknya, lihat Ajukan titik akhir shard.

    • Jika instans MongoDB tujuan adalah instans kluster sharded, lakukan persiapan yang diperlukan tergantung pada cara Anda membuat skema.

      Catatan

      Mengonfigurasi sharding data mencegah data disinkronkan hanya ke satu shard, sehingga memastikan kinerja kluster tetap tinggi. Mengaktifkan balancer dan melakukan pre-sharding membantu mencegah kesenjangan data.

    Batasan

    Type

    Description

    Batasan database sumber dan tujuan

    • Persyaratan bandwidth: Server tempat database sumber berada harus memiliki bandwidth outbound yang mencukupi. Jika tidak, kecepatan sinkronisasi dapat terpengaruh.

    • Koleksi yang akan disinkronkan harus memiliki primary key atau kendala UNIQUE, dan nilai field-nya harus unik. Jika tidak, data duplikat dapat muncul di database tujuan.

    • Field _id pada koleksi yang akan disinkronkan harus memiliki nilai unik. Jika tidak, ketidakkonsistenan data dapat terjadi.

    • Jika Anda melakukan sinkronisasi pada level koleksi dan perlu mengedit objek (misalnya mengganti nama koleksi), satu tugas sinkronisasi mendukung hingga 1.000 koleksi. Jika melebihi batas ini, tugas akan gagal dengan error setelah dikirim. Untuk mengatasinya, bagi koleksi menjadi beberapa batch dan konfigurasikan beberapa tugas. Atau konfigurasikan tugas sinkronisasi seluruh database.

    • Satu dokumen dalam database sumber tidak boleh melebihi 16 MB. Jika tidak, tugas akan gagal.

    • Database sumber Anda tidak boleh merupakan Azure Cosmos DB for MongoDB atau Amazon DocumentDB (elastic cluster).

    • Database sumber harus mengaktifkan Oplog dan menyimpan Oplog minimal selama tujuh hari. Atau aktifkan Change Streams dan pastikan DTS dapat berlangganan perubahan data dalam tujuh hari terakhir melalui Change Streams. Jika tidak, DTS mungkin gagal menangkap perubahan data, menyebabkan kegagalan tugas. Dalam kasus ekstrem, hal ini dapat menyebabkan ketidakkonsistenan atau kehilangan data. Masalah ini tidak dicakup oleh Perjanjian Tingkat Layanan (SLA) DTS.

      Penting

      • Kami menyarankan menggunakan Oplog untuk menangkap perubahan data.

      • Hanya MongoDB 4.0 ke atas yang mendukung Change Streams. Change Streams tidak mendukung sinkronisasi dua arah.

      • Jika database sumber Anda adalah Amazon DocumentDB (non-elastic cluster), aktifkan Change Streams secara manual. Saat mengonfigurasi tugas, atur Migration Method ke ChangeStream dan atur Architecture ke Sharded Cluster.

    • Jika DTS menggunakan Oplog untuk sinkronisasi inkremental, penskalaan jumlah shard tidak didukung untuk kluster sharded MongoDB sumber. Jika tidak, tugas DTS dapat gagal dan menyebabkan ketidakkonsistenan data.

    • Jika instans sumber Anda adalah kluster sharded MongoDB yang dikelola sendiri:

      • Access Method hanya mendukung Express Connect, VPN Gateway, or Smart Access Gateway dan Cloud Enterprise Network (CEN).

      • Jika versi MongoDB Anda 8.0 atau lebih baru dan Migration Method adalah Oplog, pastikan akun Shard yang digunakan oleh tugas sinkronisasi memiliki izin directShardOperations. Tambahkan izin ini menggunakan perintah db.adminCommand({ grantRolesToUser: "username", roles: [{ role: "directShardOperations", db: "admin"}]}).

        Catatan

        Ganti username dalam perintah dengan akun Shard yang digunakan oleh tugas sinkronisasi.

      • Jika Migration Method adalah Oplog dan tugas mencakup sinkronisasi data penuh, pastikan akun Mongos untuk kluster sharded MongoDB sumber memiliki izin untuk menjalankan perintah db.runCommand({"balancerStatus":1}). DTS memeriksa apakah Balancer dinonaktifkan menggunakan perintah ini selama pemeriksaan awal.

    • Jumlah node Mongos pada instans kluster sharded MongoDB sumber tidak boleh melebihi 10.

    • Jika koleksi yang akan disinkronkan berisi indeks TTL, ketidakkonsistenan data atau latensi dapat terjadi.

    • Pastikan tidak ada dokumen yatim (orphaned documents) di instans sumber dan tujuan. Jika tidak, ketidakkonsistenan data atau kegagalan tugas dapat terjadi. Untuk informasi selengkapnya, lihat orphaned documents dan Cara membersihkan dokumen yatim di MongoDB (arsitektur kluster sharded).

    • Batasan operasi database sumber:

      • Selama sinkronisasi skema dan sinkronisasi data penuh, jangan mengubah skema database atau koleksi (termasuk pembaruan data bertipe array). Jika tidak, tugas sinkronisasi dapat gagal atau menyebabkan ketidakkonsistenan data antara database sumber dan tujuan.

      • Jika Anda hanya melakukan sinkronisasi data penuh, jangan menulis data baru ke instans sumber. Jika tidak, ketidakkonsistenan data dapat terjadi antara database sumber dan tujuan.

      • Saat instans sinkronisasi sedang berjalan, jangan menjalankan perintah yang mengubah distribusi data pada objek yang akan disinkronkan di database sumber (misalnya, shardCollection, reshardCollection, unshardCollection, moveCollection, atau movePrimary). Jika tidak, ketidakkonsistenan data dapat terjadi.

    • Jika Balancer di database sumber melakukan penyeimbangan data, latensi dapat terjadi.

    • DTS tidak mendukung koneksi ke database MongoDB menggunakan alamat SRV.

    • Jika database sumber adalah MongoDB 5.0 atau lebih baru dan versi database tujuan lebih lama dari 5.0, Anda tidak dapat menyinkronkan capped collection. Jika Anda mencoba menyinkronkannya, tugas akan gagal atau terjadi ketidakkonsistenan data antara database sumber dan tujuan. Hal ini karena, mulai MongoDB 5.0, perilaku capped collection berubah untuk mengizinkan operasi seperti penghapusan eksplisit dan peningkatan ukuran dokumen selama pembaruan, yang tidak didukung oleh kernel database versi lama.

    Batasan lainnya

    • DTS tidak mendukung sinkronisasi data dari database admin, config, dan local.

    • Kami menyarankan menggunakan versi MongoDB yang sama untuk database sumber dan tujuan. Atau gunakan versi yang lebih tinggi untuk tujuan guna memastikan kompatibilitas. Menyinkronkan dari versi yang lebih tinggi ke versi yang lebih rendah dapat menyebabkan masalah kompatibilitas.

    • Jika instans tujuan menggunakan arsitektur ReplicaSet:

      • Saat Access Method adalah Express Connect, VPN Gateway, or Smart Access Gateway atau Cloud Enterprise Network (CEN), Anda harus memasukkan alamat dan port node primary untuk Domain Name or IP dan Port Number, atau konfigurasikan alamat koneksi high-availability. Untuk informasi selengkapnya tentang alamat koneksi high-availability, lihat Buat instans dengan database sumber atau tujuan MongoDB high-availability.

      • Saat Access Method adalah Self-managed Database on ECS, masukkan port node primary di Port Number.

    • Jika MongoDB tujuan adalah instans kluster sharded dan Anda tidak perlu menggunakan fitur sinkronisasi skema yang disediakan oleh DTS (misalnya, sharding data sudah dikonfigurasi di tujuan), jangan pilih Schema Synchronization untuk Synchronization Types pada halaman Configure Objects. Jika tidak, konflik sharding dapat menyebabkan ketidakkonsistenan data atau kegagalan tugas.

    • Sebelum memulai tugas, tambahkan shard key yang digunakan oleh tujuan ke data di sumber. Setelah tugas dimulai, pernyataan INSERT untuk data yang akan disinkronkan harus menyertakan shard key. Pernyataan UPDATE tidak boleh mengubah shard key.

    • Informasi transaksi tidak dipertahankan. Transaksi di database sumber menjadi catatan individual di database tujuan.

    • Saat DTS menulis data ke koleksi tujuan, jika terjadi konflik primary key atau unique key, DTS melewati pernyataan tulis dan mempertahankan data yang ada di koleksi tujuan.

    • Jika versi MongoDB sumber Anda lebih lama dari 3.6 dan versi MongoDB tujuan 3.6 atau lebih baru, perbedaan rencana eksekusi dapat menyebabkan urutan field yang tidak konsisten pada data yang disinkronkan. Hubungan nilai-field tetap tidak berubah. Jika bisnis Anda menggunakan kueri pencocokan teks pada struktur bersarang, evaluasi dampak dari urutan field yang tidak konsisten.

    • Evaluasi kinerja database sumber dan tujuan sebelum sinkronisasi. Jalankan sinkronisasi selama jam sepi. Jika tidak, inisialisasi data penuh akan mengonsumsi sumber daya baca dan tulis, meningkatkan beban database.

    • Inisialisasi penuh menjalankan operasi INSERT secara konkuren. Hal ini menciptakan fragmentasi pada koleksi database tujuan. Setelah inisialisasi penuh, ruang koleksi pada instans tujuan lebih besar daripada di instans sumber.

    • Jika koleksi tujuan memiliki indeks unik atau properti capped-nya diatur ke true, replay konkuren tidak didukung selama sinkronisasi inkremental. Hanya tulisan single-threaded yang diizinkan. Hal ini dapat meningkatkan latensi tugas.

    • Karena DTS menulis data secara konkuren, ruang penyimpanan yang digunakan oleh tujuan 5% hingga 10% lebih besar daripada sumber.

    • Untuk mendapatkan jumlah dokumen di MongoDB tujuan, gunakan sintaks db.$table_name.aggregate([{ $count:"myCount"}]).

    • Pastikan MongoDB tujuan tidak memiliki primary key yang sama (defaultnya _id) dengan sumber. Jika tidak, kehilangan data dapat terjadi. Jika tujuan memiliki primary key yang sama, hapus data terkait di tujuan tanpa memengaruhi bisnis Anda (hapus dokumen dengan nilai _id yang sama di tujuan).

    • Nonaktifkan Balancer di database MongoDB sumber selama sinkronisasi penuh. Biarkan nonaktif hingga semua subtugas mencapai fase inkremental. Jika tidak, ketidakkonsistenan data dapat terjadi. Untuk informasi selengkapnya tentang mengelola Balancer, lihat Kelola Balancer MongoDB.

    • Jika database tujuan Anda adalah kluster sharded MongoDB, pastikan perilaku bisnis Anda memenuhi persyaratan MongoDB untuk koleksi yang di-shard setelah beralih trafik ke database ini.

    • DTS tidak mendukung sinkronisasi koleksi time-series yang diperkenalkan di MongoDB 5.0 dan versi lebih baru.

    • Jika tugas gagal, staf dukungan DTS akan mencoba memulihkannya dalam waktu delapan jam. Selama pemulihan, mereka mungkin me-restart tugas atau menyesuaikan parameternya.

      Catatan

      Hanya parameter tugas DTS yang dimodifikasi—bukan parameter database. Parameter yang mungkin disesuaikan termasuk yang tercantum di Modifikasi parameter instans.

    Penagihan

    Jenis sinkronisasi

    Harga

    Sinkronisasi skema dan sinkronisasi data penuh

    Gratis.

    Sinkronisasi data inkremental

    Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan.

    Topologi sinkronisasi data satu arah

    Layanan Transmisi Data (DTS) saat ini hanya mendukung sinkronisasi data satu arah antara dua instans ApsaraDB for MongoDB yang menggunakan arsitektur kluster sharded. Sinkronisasi di antara beberapa instans ApsaraDB for MongoDB tidak didukung.

    Jenis sinkronisasi

    Jenis sinkronisasi

    Deskripsi

    Sinkronisasi skema

    Menyinkronkan skema objek yang dipilih dari instans sumber ApsaraDB for MongoDB ke instans tujuan ApsaraDB for MongoDB.

    Sinkronisasi data penuh

    Menyinkronkan data historis objek yang dipilih dari instans sumber ApsaraDB for MongoDB ke instans tujuan ApsaraDB for MongoDB.

    Catatan

    Sinkronisasi data penuh didukung untuk database dan koleksi.

    Sinkronisasi data inkremental

    Menyinkronkan pembaruan inkremental dari instans sumber ApsaraDB for MongoDB ke instans tujuan ApsaraDB for MongoDB setelah sinkronisasi data penuh selesai.

    Oplog

    Sinkronisasi data inkremental tidak mereplikasi database yang dibuat setelah tugas dimulai. Perubahan berikut direplikasi:

    • CREATE COLLECTION dan CREATE INDEX

    • DROP DATABASE, DROP COLLECTION, dan DROP INDEX

    • RENAME COLLECTION

      Catatan

      Operasi RENAME COLLECTION tidak direplikasi jika opsi dropTarget diatur ke true.

    • Insert, update, dan delete dokumen dalam koleksi.

      Catatan

      Untuk update dokumen, hanya mereplikasi operasi yang menggunakan perintah $set.

    Change stream

    Perubahan berikut direplikasi:

    • DROP DATABASE dan DROP COLLECTION

    • RENAME COLLECTION

      Catatan

      Operasi RENAME COLLECTION tidak direplikasi jika opsi dropTarget diatur ke true.

    • Insert, update, dan delete dokumen dalam koleksi.

      Catatan

      Untuk update dokumen, hanya mereplikasi operasi yang menggunakan perintah $set.

    Bersihkan dokumen yatim

    Sebelum melakukan migrasi data, Anda harus membersihkan dokumen yatim dari database MongoDB sumber.

    Penting

    Jika Anda tidak membersihkan dokumen yatim, kinerja migrasi dapat menurun, dan nilai _id yang bentrok dapat menyebabkan error migrasi data.

    ApsaraDB for MongoDB

    Catatan

    Menjalankan skrip pembersihan pada instans dengan versi utama MongoDB lebih lama dari 4.2 atau versi minor lebih lama dari 4.0.6 akan menyebabkan error. Untuk melihat versi saat ini dari instans Anda, lihat Versi minor MongoDB. Untuk meningkatkan versi utama atau minor, lihat Tingkatkan versi utama database dan Tingkatkan versi minor database.

    Untuk membersihkan dokumen yatim, gunakan perintah cleanupOrphaned. Penggunaan perintah ini berbeda antara MongoDB 4.4 ke atas dan MongoDB 4.2 ke bawah. Bagian berikut menjelaskan prosedurnya.

    MongoDB 4.4 dan lebih baru

    1. Pada server yang dapat terhubung ke instans kluster sharded, buat skrip JavaScript (JS) bernama cleanupOrphaned.js.

      Catatan

      Skrip ini membersihkan dokumen yatim dari semua koleksi di beberapa database di beberapa shard. Untuk membersihkan dokumen yatim dari koleksi tertentu, Anda dapat memodifikasi skrip JS tersebut.

      // Daftar nama shard.
var shardNames = ["shardName1", "shardName2"];
// Daftar database yang akan diproses.
var databasesToProcess = ["database1", "database2", "database3"];
shardNames.forEach(function(shardName) {
    // Iterasi database yang ditentukan.
    databasesToProcess.forEach(function(dbName) {
        var dbInstance = db.getSiblingDB(dbName);
        // Dapatkan nama semua koleksi dalam instans database.
        var collectionNames = dbInstance.getCollectionNames();
        // Iterasi setiap koleksi.
        collectionNames.forEach(function(collectionName) {
            // Nama lengkap koleksi.
            var fullCollectionName = dbName + "." + collectionName;
            // Bangun perintah cleanupOrphaned.
            var command = {
                runCommandOnShard: shardName,
                command: { cleanupOrphaned: fullCollectionName }
            };
            // Jalankan perintah.
            var result = db.adminCommand(command); 
            if (result.ok) {
                print("Dokumen yatim telah dibersihkan untuk koleksi " + fullCollectionName + " pada shard " + shardName);
                printjson(result);
            } else {
                print("Gagal membersihkan dokumen yatim untuk koleksi " + fullCollectionName + " pada shard " + shardName);
            }
        });
    });
});

      Anda harus memodifikasi nilai parameter shardNames dan databasesToProcess dalam skrip.

      • shardNames: Array ID shard tempat Anda ingin membersihkan dokumen yatim. Anda dapat memperoleh ID shard dari bagian Daftar Shard pada halaman Informasi Dasar instans. Contoh: d-bp15a3796d3a****.

      • databasesToProcess: Array nama database yang perlu dibersihkan.

    2. Di direktori tempat skrip cleanupOrphaned.js disimpan, jalankan perintah berikut.

      mongo --host <Mongoshost> --port <Primaryport>  --authenticationDatabase <database> -u <username> -p <password> cleanupOrphaned.js > output.txt

      Tabel berikut menjelaskan parameter-parameter tersebut.

      Parameter

      Deskripsi

      <Mongoshost>

      Titik akhir node mongos dari instans kluster sharded. Contoh: s-bp14423a2a51****.mongodb.rds.aliyuncs.com.

      <Primaryport>

      Nomor port node mongos dari instans kluster sharded. Nilai defaultnya adalah 3717.

      <database>

      Nama database otentikasi. Ini adalah database tempat akun database yang ditentukan didefinisikan.

      <username>

      Akun database.

      <password>

      Kata sandi untuk akun database.

      output.txt

      File tujuan untuk hasil eksekusi.

    MongoDB 4.2 dan lebih lama

    1. Pada server yang dapat terhubung ke instans kluster sharded, buat skrip JS bernama cleanupOrphaned.js.

      Catatan

      Skrip ini membersihkan dokumen yatim dari koleksi tertentu dalam database tertentu di beberapa shard. Untuk membersihkan dokumen yatim dari beberapa koleksi, Anda dapat menjalankan skrip beberapa kali dengan memodifikasi parameter fullCollectionName atau memodifikasi skrip agar melakukan iterasi melalui koleksi.

      function cleanupOrphanedOnShard(shardName, fullCollectionName) {
    var nextKey = { };
    var result;
    while ( nextKey != null ) {
        var command = {
            runCommandOnShard: shardName,
            command: { cleanupOrphaned: fullCollectionName, startingFromKey: nextKey }
        };
        result = db.adminCommand(command);
        printjson(result);
        if (result.ok != 1 || !(result.results.hasOwnProperty(shardName)) || result.results[shardName].ok != 1 ) {
            print("Tidak dapat menyelesaikan saat ini: kegagalan atau timeout.")
            break
        }
        nextKey = result.results[shardName].stoppedAtKey;
    }
    print("Pembersihan dokumen yatim selesai untuk koleksi: " + fullCollectionName + " pada shard: " + shardName)
}
var shardNames = ["shardName1", "shardName2", "shardName3"]
var fullCollectionName = "database.collection"
shardNames.forEach(function(shardName) {
    cleanupOrphanedOnShard(shardName, fullCollectionName);
});

      Anda harus memodifikasi nilai parameter shardNames dan fullCollectionName dalam skrip.

      • shardNames: Array ID shard tempat Anda ingin membersihkan dokumen yatim. Anda dapat memperoleh ID shard dari bagian Daftar Shard pada halaman Informasi Dasar instans. Contoh: d-bp15a3796d3a****.

      • fullCollectionName: Nama koleksi yang akan dibersihkan, dalam format database.collection.

    2. Di direktori tempat skrip cleanupOrphaned.js disimpan, jalankan perintah berikut.

      mongo --host <Mongoshost> --port <Primaryport>  --authenticationDatabase <database> -u <username> -p <password> cleanupOrphaned.js > output.txt

      Tabel berikut menjelaskan parameter-parameter tersebut.

      Parameter

      Deskripsi

      <Mongoshost>

      Titik akhir node mongos dari instans kluster sharded. Contoh: s-bp14423a2a51****.mongodb.rds.aliyuncs.com.

      <Primaryport>

      Nomor port node mongos dari instans kluster sharded. Nilai defaultnya adalah 3717.

      <database>

      Nama database otentikasi. Ini adalah database tempat akun database yang ditentukan didefinisikan.

      <username>

      Akun database.

      <password>

      Kata sandi untuk akun database.

      output.txt

      File tujuan untuk hasil eksekusi.

    MongoDB yang dikelola sendiri

    1. Pada server yang dapat terhubung ke database MongoDB yang dikelola sendiri, unduh file skrip cleanupOrphaned.js.

      wget "https://docs-aliyun.cn-hangzhou.oss.aliyun-inc.com/assets/attach/120562/cn_zh/1564451237979/cleanupOrphaned.js"

    2. Modifikasi file skrip cleanupOrphaned.js. Ganti test dengan nama database yang akan dibersihkan.

      Penting

      Jika Anda memiliki beberapa database, Anda harus mengulangi Langkah 2 dan Langkah 3 untuk setiap database.

      function cleanupOrphaned(coll) {
  var nextKey = { };
  var result;
  while ( nextKey != null ) {
    result = db.adminCommand( { cleanupOrphaned: coll, startingFromKey: nextKey } );
    if (result.ok != 1)
       print("Tidak dapat menyelesaikan saat ini: kegagalan atau timeout.")
    printjson(result);
    nextKey = result.stoppedAtKey;
  }
}
var dbName = 'test'
db = db.getSiblingDB(dbName)
db.getCollectionNames().forEach(function(collName) {
        cleanupOrphaned(dbName + "." + collName);
});

    3. Jalankan perintah berikut untuk membersihkan dokumen yatim dari semua koleksi dalam database yang ditentukan pada sebuah shard.

      Catatan

      Anda harus mengulangi langkah ini untuk setiap shard agar dokumen yatimnya dibersihkan. 

      mongo --host <Shardhost> --port <Primaryport>  --authenticationDatabase <database> -u <username> -p <password> cleanupOrphaned.js
      Catatan

      • <Shardhost>: Alamat IP shard.

      • <Primaryport>: Port layanan node primary dalam shard.

      • <database>: Nama database otentikasi. Ini adalah database tempat akun database yang ditentukan didefinisikan.

      • <username>: Akun database.

      • <password>: Kata sandi untuk akun database.

      Contoh:

      Dalam contoh ini, database MongoDB yang dikelola sendiri memiliki tiga shard. Anda harus menjalankan perintah pada setiap shard untuk membersihkan dokumen yatimnya.

      mongo --host 172.16.1.10 --port 27018  --authenticationDatabase admin -u dtstest -p 'Test123456' cleanupOrphaned.js
      mongo --host 172.16.1.11 --port 27021 --authenticationDatabase admin -u dtstest -p 'Test123456' cleanupOrphaned.js
      mongo --host 172.16.1.12 --port 27024  --authenticationDatabase admin -u dtstest -p 'Test123456' cleanupOrphaned.js

    Prosedur

    Penting

    Topik ini memberikan contoh konfigurasi tugas DTS sebelum membeli instans. Dalam skenario ini, Anda tidak perlu menentukan jumlah shard untuk kluster sharded sumber ApsaraDB for MongoDB. Jika Anda membeli instans DTS sebelum mengonfigurasi tugas, Anda harus menentukan jumlah shard yang benar saat pembelian.

    1. Buka halaman daftar tugas sinkronisasi di wilayah tujuan. Anda dapat menggunakan salah satu dari dua metode berikut:

      Dari Konsol DTS

      1. Masuk ke Konsol Layanan Transmisi Data (DTS).

      2. Di panel navigasi kiri, klik Data Synchronization.

      3. Di pojok kiri atas halaman, pilih wilayah tempat instans sinkronisasi berada.

      Dari Konsol DMS

      Catatan

      Operasi aktual dapat berbeda tergantung mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Mode sederhana dan Sesuaikan tata letak dan gaya antarmuka DMS.

      1. Masuk ke Data Management (DMS).

      2. Di bilah menu atas, pilih Data + AI > Data Transmission (DTS) > Data Synchronization.

      3. Di sebelah kanan Data Synchronization Tasks, pilih wilayah tempat instans sinkronisasi berada.

    2. Klik Create Task untuk membuka halaman konfigurasi tugas.

    3. Konfigurasikan database sumber dan tujuan.

      Kategori

      Parameter

      Deskripsi

      N/A

      Task Name

      DTS secara otomatis menghasilkan nama tugas. Kami menyarankan agar Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tersebut tidak harus unik.

      Source Database

      Select Existing Connection

      • Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis.

        Catatan

        Di Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..

      • Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan informasi database berikut secara manual.

      Database Type

      Pilih MongoDB.

      Access Method

      Pilih Alibaba Cloud Instance.

      Instance Region

      Pilih wilayah instans sumber ApsaraDB for MongoDB.

      Replicate Data Across Alibaba Cloud Accounts

      Contoh ini menggunakan instans database yang dimiliki oleh Akun Alibaba Cloud saat ini. Pilih No.

      Architecture

      Pilih Sharded Cluster.

      Migration Method

      Pilih metode untuk sinkronisasi data inkremental berdasarkan kebutuhan Anda.

      • Oplog (Direkomendasikan):

        Opsi ini tersedia jika Oplog diaktifkan untuk database sumber.

        Catatan

        Oplog diaktifkan secara default untuk database MongoDB yang dikelola sendiri dan instans ApsaraDB for MongoDB. Metode ini menawarkan latensi lebih rendah untuk tugas sinkronisasi inkremental karena log diambil lebih cepat. Kami menyarankan memilih Oplog.

      • ChangeStream:

        Opsi ini tersedia jika Change Streams diaktifkan untuk database sumber.

        Catatan

        • Jika database sumber adalah instans Amazon DocumentDB (non-elastic cluster), Anda hanya dapat memilih ChangeStream.

        • Jika Anda mengatur Architecture database sumber ke Sharded Cluster, Anda tidak perlu menentukan Shard account dan Shard password.

      Instance ID

      Pilih ID instans sumber ApsaraDB for MongoDB.

      Authentication Database

      Masukkan nama database tempat akun database instans sumber ApsaraDB for MongoDB didefinisikan. Nilai defaultnya adalah admin.

      Database Account

      Masukkan akun database instans sumber ApsaraDB for MongoDB. Akun tersebut harus memiliki izin baca pada database yang akan disinkronkan, serta pada database config, admin, dan local.

      Database Password

      Masukkan kata sandi yang sesuai dengan akun database.

      Shard account

      Masukkan akun yang digunakan untuk mengakses shard instans sumber ApsaraDB for MongoDB.

      Catatan

      Jika database sumber Anda adalah database MongoDB yang dikelola sendiri, Anda juga harus menentukan shard access information.

      Shard password

      Masukkan kata sandi untuk akun shard instans sumber ApsaraDB for MongoDB.

      Encryption

      DTS mendukung tiga metode koneksi: Non-encrypted, SSL-encrypted, dan Mongo Atlas SSL. Opsi untuk Encryption bervariasi berdasarkan Access Method dan Architecture yang dipilih. Opsi yang ditampilkan di konsol berlaku.

      Catatan

      • Database MongoDB dengan Architecture Sharded Cluster dan Migration Method Oplog tidak mendukung SSL-encrypted.

      • Jika sumber adalah database MongoDB yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance) dengan arsitektur Replica Set, dan Anda memilih SSL-encrypted, DTS juga memungkinkan Anda mengunggah sertifikat CA untuk memverifikasi koneksi.

      Destination Database

      Select Existing Connection

      • Untuk menggunakan instans database yang ditambahkan ke sistem (baru dibuat atau disimpan), pilih instans database dari daftar drop-down. Informasi database akan dikonfigurasi secara otomatis.

        Catatan

        Di Konsol DMS, item konfigurasi ini bernama Select a DMS database instance..

      • Jika Anda belum menambahkan instans database ke sistem, atau tidak perlu menggunakan instans yang sudah ditambahkan, konfigurasikan informasi database berikut secara manual.

      Database Type

      Pilih MongoDB.

      Access Method

      Pilih Alibaba Cloud Instance.

      Instance Region

      Pilih wilayah instans tujuan ApsaraDB for MongoDB.

      Replicate Data Across Alibaba Cloud Accounts

      Contoh ini menggunakan instans database yang dimiliki oleh Akun Alibaba Cloud saat ini. Pilih No.

      Architecture

      Pilih arsitektur instans tujuan ApsaraDB for MongoDB.

      Instance ID

      Pilih ID instans tujuan ApsaraDB for MongoDB.

      Authentication Database

      Masukkan nama database tempat akun database instans tujuan ApsaraDB for MongoDB didefinisikan. Nilai defaultnya adalah admin.

      Database Account

      Masukkan akun database instans tujuan ApsaraDB for MongoDB. Akun tersebut harus memiliki izin dbAdminAnyDatabase, izin readWrite pada database tujuan, dan izin baca pada database local.

      Database Password

      Masukkan kata sandi yang sesuai dengan akun database.

      Encryption

      DTS mendukung tiga metode koneksi: Non-encrypted, SSL-encrypted, dan Mongo Atlas SSL. Opsi untuk Encryption bervariasi berdasarkan Access Method dan Architecture yang dipilih. Opsi yang ditampilkan di konsol berlaku.

      Catatan

      • Database MongoDB dengan Architecture Sharded Cluster tidak mendukung SSL-encrypted.

      • Jika tujuan adalah database MongoDB yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance) dengan Replica Set, dan Anda memilih SSL-encrypted, DTS juga memungkinkan Anda mengunggah sertifikat CA untuk memverifikasi koneksi.

    4. Setelah selesai mengonfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.

      Catatan

      • Pastikan blok CIDR alamat IP server DTS telah ditambahkan ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Tambahkan blok CIDR alamat IP server DTS ke daftar putih.

      • Jika database sumber atau tujuan adalah database yang dikelola sendiri (di mana Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers.

    5. Konfigurasikan objek tugas.

      1. Pada halaman Configure Objects, konfigurasikan objek yang akan disinkronkan.

        Parameter

        Deskripsi

        Synchronization Types

        Incremental Data Synchronization dipilih. Secara default, Anda juga harus memilih Schema Synchronization dan Full Data Synchronization. Setelah pemeriksaan awal selesai, DTS melakukan sinkronisasi data penuh objek yang dipilih dari instans sumber ke kluster tujuan. Hal ini berfungsi sebagai data dasar untuk sinkronisasi data inkremental selanjutnya.

        Penting

        Jika instans MongoDB tujuan adalah kluster sharded dan Anda tidak perlu menggunakan fitur sinkronisasi skema DTS (misalnya, sharding data sudah dikonfigurasi di tujuan), jangan pilih Schema Synchronization. Jika tidak, konflik shard dapat menyebabkan ketidakkonsistenan data atau kegagalan tugas.

        Synchronization Topology

        Pilih One-way Synchronization.

        Processing Mode of Conflicting Tables

        • Precheck and Report Errors: Memeriksa koleksi dengan nama yang sama di database tujuan. Jika ditemukan koleksi dengan nama yang sama, error dilaporkan dan tugas sinkronisasi data tidak dimulai. Jika tidak, pemeriksaan awal berhasil.

          Catatan

          Jika Anda tidak dapat menghapus atau mengganti nama koleksi dengan nama yang sama di database tujuan, Anda dapat mengubah nama koleksi di database tujuan. Untuk informasi selengkapnya, lihat Atur nama objek sinkronisasi di instans tujuan.

        • Ignore Errors and Proceed: Melewati pemeriksaan koleksi dengan nama yang sama di database tujuan.

          Peringatan

          Memilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan membahayakan bisnis Anda. Misalnya:

          • Jika catatan di database tujuan memiliki nilai primary key atau unique key yang sama dengan catatan di database sumber, catatan di database tujuan dipertahankan. Catatan dari database sumber tidak disinkronkan ke database tujuan.

          • Hal ini dapat menyebabkan inisialisasi data gagal, hanya sebagian data yang disinkronkan, atau seluruh sinkronisasi gagal.

        Capitalization of Object Names in Destination Instance

        Anda dapat mengonfigurasi kebijakan sensitivitas huruf besar/kecil untuk nama objek database, tabel, dan kolom yang disinkronkan ke instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih untuk menggunakan kebijakan default database sumber dan tujuan. Untuk informasi selengkapnya, lihat Kebijakan sensitivitas huruf besar/kecil untuk nama objek tujuan.

        Source Objects

        Di kotak Source Objects, klik objek yang akan disinkronkan, lalu klik 向右 untuk memindahkannya ke kotak Selected Objects.

        Catatan

        Anda dapat memilih objek pada level DATABASE atau COLLECTION.

        Selected Objects

        • Untuk mengatur nama objek sinkronisasi di instans tujuan atau menentukan objek mana yang menerima data, klik kanan objek sinkronisasi di kotak Selected Objects dan modifikasi. Untuk informasi selengkapnya, lihat Pemetaan nama tabel dan kolom.

        • Untuk menghapus objek sinkronisasi, klik objek tersebut di kotak Selected Objects, lalu klik image untuk memindahkannya ke kotak Source Objects.

        Catatan

        • Untuk memilih operasi inkremental pada level database atau koleksi, klik kanan objek yang diinginkan di kotak Selected Objects dan buat pilihan Anda di kotak dialog yang muncul.

        • Untuk memfilter data (didukung selama sinkronisasi penuh tetapi tidak selama sinkronisasi inkremental), klik kanan koleksi yang diinginkan di kotak Selected Objects dan konfigurasikan pengaturannya di kotak dialog yang muncul. Untuk petunjuknya, lihat Konfigurasikan kondisi filter.

        • Jika Anda menggunakan fitur pemetaan nama objek untuk menentukan database atau koleksi yang menerima data, sinkronisasi dapat gagal untuk objek lain yang bergantung pada objek yang dipetakan.

      2. Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.

        Parameter

        Deskripsi

        Dedicated Cluster for Task Scheduling

        Secara default, DTS menjadwalkan tugas pada kluster bersama, dan Anda tidak perlu memilih kluster. Untuk kinerja yang lebih stabil, Anda dapat membeli kluster khusus untuk menjalankan tugas sinkronisasi DTS. Untuk informasi selengkapnya, lihat Apa itu kluster khusus DTS?.

        Retry Time for Failed Connections

        Setelah tugas sinkronisasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan error dan segera mulai mencoba menghubungkan kembali. Durasi percobaan ulang default adalah 720 menit. Anda juga dapat menentukan durasi percobaan ulang kustom dari 10 hingga 1.440 menit. Kami menyarankan agar Anda mengatur durasi minimal 30 menit. Jika DTS berhasil terhubung kembali ke database dalam durasi yang ditentukan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal.

        Catatan

        • Jika Anda memiliki beberapa instans DTS (misalnya, Instans A dan Instans B) yang berbagi sumber atau tujuan yang sama, dan Anda mengatur waktu percobaan ulang jaringan menjadi 30 menit untuk Instans A dan 60 menit untuk Instans B, durasi yang lebih pendek yaitu 30 menit akan digunakan untuk keduanya.

        • Karena DTS membebankan biaya selama periode percobaan ulang koneksi, kami menyarankan agar Anda menyesuaikan durasi percobaan ulang berdasarkan kebutuhan bisnis Anda atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.

        Retry Time for Other Issues

        Setelah tugas sinkronisasi dimulai, jika terjadi masalah non-koneksi lainnya pada database sumber atau tujuan (seperti exception eksekusi DDL atau DML), DTS melaporkan error dan segera mulai melakukan operasi percobaan ulang terus-menerus. Durasi percobaan ulang default adalah 10 menit. Anda juga dapat menyesuaikan durasi percobaan ulang dalam rentang 1 hingga 1.440 menit. Kami menyarankan agar Anda mengaturnya minimal 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditetapkan, tugas sinkronisasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal.

        Penting

        Nilai untuk Retry Time for Other Issues harus lebih kecil daripada nilai untuk Retry Time for Failed Connections.

        Enable Throttling for Full Data Synchronization

        Selama tahap sinkronisasi penuh, DTS mengonsumsi sumber daya baca dan tulis dari database sumber dan tujuan, yang dapat meningkatkan beban database. Untuk mengurangi beban pada database sumber dan tujuan, Anda dapat mengatur batas laju untuk tugas sinkronisasi penuh dengan mengonfigurasi parameter Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s).

        Catatan

        • Item konfigurasi ini hanya tersedia saat Synchronization Types diatur ke Full Data Synchronization.

        • Anda juga dapat menyesuaikan laju sinkronisasi penuh setelah instans sinkronisasi sedang berjalan.

        Only one data type for primary key _id in a table of the data to be synchronized

        Tentukan apakah tipe data primary key _id bersifat unik dalam setiap koleksi yang akan disinkronkan.

        Penting

        • Pilih opsi berdasarkan data aktual Anda. Pemilihan yang salah dapat menyebabkan kehilangan data.

        • Parameter ini hanya tersedia jika Synchronization Types mencakup Full Data Synchronization.

        • Yes: Tipe data bersifat unik. Selama fase sinkronisasi penuh, DTS tidak memindai tipe data primary key dalam data sumber. Untuk setiap koleksi, DTS hanya menyinkronkan data yang sesuai dengan satu tipe data primary key.

        • No: Tipe data tidak unik. Selama fase sinkronisasi penuh, DTS memindai tipe data primary key dalam data sumber dan menyinkronkan semua data.

        Enable Throttling for Incremental Data Synchronization

        Anda juga dapat mengatur batas laju untuk tugas sinkronisasi inkremental. Untuk mengurangi tekanan pada database tujuan, atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).

        Environment Tag

        Anda dapat memilih tag lingkungan untuk mengidentifikasi instans berdasarkan kebutuhan bisnis Anda. Anda tidak perlu memilih tag dalam contoh ini.

        Configure ETL

        Pilih apakah akan mengaktifkan fitur ekstrak, transformasi, dan muat (ETL). Untuk informasi selengkapnya, lihat Apa itu ETL? Nilai yang valid:

        Monitoring and Alerting

        Tentukan apakah akan mengonfigurasi peringatan. Jika sinkronisasi gagal atau latensi melebihi ambang batas yang ditentukan, notifikasi akan dikirim ke kontak peringatan.

      3. Klik Next: Data Validation untuk mengonfigurasi tugas validasi data.

        Jika Anda ingin menggunakan fitur validasi data, lihat Konfigurasikan validasi data untuk petunjuk konfigurasinya.

    6. Simpan tugas dan jalankan pemeriksaan awal.

      • Untuk melihat parameter API untuk mengonfigurasi instans ini, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung.

      • Jika Anda telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.

      Catatan

      • Sebelum pekerjaan sinkronisasi dimulai, DTS menjalankan pemeriksaan awal. Pekerjaan hanya dapat dimulai setelah semua item pemeriksaan awal lolos.

      • Jika pemeriksaan awal gagal, klik View Details untuk item yang gagal. Perbaiki masalah sesuai petunjuk, lalu jalankan pemeriksaan awal lagi.

      • Jika pemeriksaan awal mengembalikan peringatan:

        • Jika item pemeriksaan gagal dan tidak dapat diabaikan, klik View Details di sebelah item tersebut. Ikuti petunjuk untuk memperbaiki masalah, lalu jalankan pemeriksaan awal lagi.

        • Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again secara berurutan untuk melewati peringatan dan menjalankan kembali pemeriksaan awal. Jika Anda memilih untuk mengabaikan item peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.

    7. Beli instans.

      1. Saat Success Rate mencapai 100%, klik Next: Purchase Instance.

      2. Di halaman Purchase, pilih metode penagihan dan spesifikasi link untuk instans sinkronisasi data. Tabel berikut menjelaskan parameter-parameter ini secara rinci.

        Kategori

        Parameter

        Deskripsi

        New Instance Class

        Metode Penagihan

        • Langganan: Anda membayar saat membuat instans. Ini cocok untuk kebutuhan jangka panjang dan lebih hemat biaya dibandingkan bayar sesuai penggunaan. Semakin lama durasi langganan, semakin tinggi diskonnya.

        • Bayar sesuai penggunaan: Anda dikenai biaya per jam. Ini cocok untuk kebutuhan jangka pendek. Anda dapat melepas instans segera setelah digunakan untuk menghemat biaya.

        Konfigurasi Kelompok Sumber Daya

        Kelompok sumber daya tempat instans tersebut berada. Defaultnya adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu Resource Management?.

        Spesifikasi Link

        DTS menyediakan spesifikasi sinkronisasi dengan tingkat kinerja berbeda. Spesifikasi link sinkronisasi memengaruhi laju sinkronisasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link sinkronisasi data.

        Durasi Langganan

        Dalam mode langganan, pilih durasi dan jumlah untuk instans langganan. Anda dapat memilih langganan bulanan dari 1 hingga 9 bulan, atau langganan tahunan selama 1, 2, 3, atau 5 tahun.

        Catatan

        Opsi ini hanya tersedia saat metode penagihan adalah Subscription.

      3. Setelah selesai mengonfigurasi, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.

      4. Klik Buy and Start. Di kotak dialog OK, klik OK.

        Anda dapat melihat perkembangan tugas di halaman Data Synchronization.