All Products
Search
Document Center

ApsaraDB for ClickHouse:Sinkronkan data dari instans ApsaraDB RDS for MySQL ke kluster ApsaraDB for ClickHouse

Last Updated:Sep 09, 2026

Gunakan Data Transmission Service (DTS) untuk menyinkronkan data dari instans ApsaraDB RDS for MySQL ke kluster ApsaraDB for ClickHouse. DTS menangani inisialisasi data penuh dan sinkronisasi inkremental berkelanjutan melalui Change Data Capture (CDC), sehingga kluster ClickHouse Anda tetap mutakhir tanpa intervensi manual.

Prasyarat

Sebelum memulai, pastikan Anda telah:

  • Mengotorisasi DTS untuk mengakses resource Alibaba Cloud. Untuk informasi selengkapnya, lihat Otorisasi DTS untuk mengakses resource Alibaba Cloud.

  • Membuat kluster ApsaraDB for ClickHouse yang menjalankan V20.8 atau versi lebih baru dengan penyimpanan tersedia yang melebihi ukuran total data dari instans RDS MySQL sumber. Untuk informasi selengkapnya, lihat Buat kluster ApsaraDB for ClickHouse.

  • Membuat database tujuan di kluster ApsaraDB for ClickHouse. Untuk informasi selengkapnya, lihat Buat database.

Penting

Beri nama database tujuan sama dengan nama database sumber di RDS MySQL. Jika namanya berbeda, gunakan fitur pemetaan nama dalam bagian Selected Objects selama langkah Configure Objects and Advanced Settings untuk memetakan nama database sumber ke nama database tujuan. Untuk informasi selengkapnya, lihat Pemetaan nama objek.

Penagihan

Jenis sinkronisasi Harga
Sinkronisasi skema dan sinkronisasi data penuh Gratis
Sinkronisasi data inkremental Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan.

Operasi SQL yang didukung

Jenis operasi Pernyataan SQL
DML INSERT, UPDATE, DELETE
DDL CREATE TABLE, DROP TABLE, TRUNCATE TABLE, ADD COLUMN, MODIFY COLUMN, DROP COLUMN

Perilaku sinkronisasi DDL

Memahami cara setiap pernyataan DDL berperilaku selama sinkronisasi membantu Anda menghindari kehilangan data tak terduga atau kegagalan tugas.

Operasi DDL Perilaku
CREATE TABLE Disebarkan secara otomatis. Tabel tujuan dibuat dengan field tambahan dari DTS (_sign, _version, _is_deleted).
DROP TABLE Disebarkan secara otomatis. Tabel tujuan dihapus.
TRUNCATE TABLE Disebarkan secara otomatis. Semua baris di tabel tujuan dihapus.
ADD COLUMN Disebarkan secara otomatis. Baris baru yang direplikasi setelah perubahan mencakup kolom yang ditambahkan.
MODIFY COLUMN Disebarkan secara otomatis.
DROP COLUMN Disebarkan secara otomatis.
RENAME TABLE Tidak didukung. Tugas mungkin gagal jika sumber menjalankan RENAME TABLE.
INDEX, PARTITION, VIEW, PROCEDURE, FUNCTION, TRIGGER, FK Didukung.

Pemetaan tipe data

MySQL dan ApsaraDB for ClickHouse mendukung tipe data yang berbeda, sehingga pemetaan satu-ke-satu tidak selalu memungkinkan. DTS memetakan tipe MySQL ke tipe ekuivalen terdekat yang didukung oleh ApsaraDB for ClickHouse selama sinkronisasi skema awal. Untuk informasi selengkapnya, lihat Pemetaan tipe data untuk sinkronisasi skema awal.

Izin akun database

Database Izin yang diperlukan Cara mengonfigurasi
Sumber RDS MySQL Izin baca pada semua objek yang akan disinkronkan Buat akun dan Ubah izin akun
Kluster ApsaraDB for ClickHouse tujuan (v22.8 atau lebih baru) Izin baca dan tulis pada database tujuan. Akun istimewa memenuhi persyaratan ini. Manajemen akun Edisi kompatibel Komunitas
Kluster ApsaraDB for ClickHouse tujuan (v21.8) Read/Write And Settings dan Allow DDL Manajemen akun Edisi kompatibel Komunitas
Jika akun database sumber tidak dibuat melalui konsol RDS MySQL, pastikan akun tersebut memiliki izin REPLICATION CLIENT, REPLICATION SLAVE, SHOW VIEW, dan SELECT.

Batasan

Batasan database sumber

Batasan Detail
Kunci primer wajib Tabel tanpa kunci primer tidak dapat disinkronkan.
Batas sinkronisasi tingkat tabel Saat menyinkronkan pada tingkat tabel dengan pengeditan objek (seperti pemetaan nama), satu tugas mendukung maksimal 1.000 tabel. Jika melebihi batas ini, bagi tabel ke beberapa tugas atau konfigurasikan tugas untuk menyinkronkan seluruh database.
Retensi log biner Pertahankan log biner lokal minimal 3 hari (disarankan 7 hari) untuk RDS MySQL, dan minimal 7 hari untuk MySQL yang dikelola sendiri. Jika DTS tidak dapat mengambil log biner yang diperlukan, tugas akan gagal. Dalam kasus ekstrem, hal ini dapat menyebabkan ketidakkonsistenan data atau kehilangan data. Masalah yang disebabkan oleh periode retensi tidak mencukupi tidak dicakup dalam SLA DTS. Untuk mengonfigurasi periode retensi instans RDS MySQL, lihat Hapus log lokal secara otomatis.
Tidak ada DDL selama sinkronisasi Jangan menjalankan operasi DDL yang mengubah skema database atau tabel selama sinkronisasi skema atau sinkronisasi penuh—tugas akan gagal. Selama sinkronisasi penuh, DTS melakukan kueri ke database sumber, yang membuat kunci metadata yang dapat memblokir operasi DDL.
Data non-binlog Data yang dihasilkan oleh operasi yang tidak menulis ke log biner—seperti pemulihan backup fisik atau operasi kaskade—tidak disinkronkan. Jika hal ini terjadi, hapus objek yang terpengaruh dari tugas sinkronisasi dan tambahkan kembali, jika bisnis Anda mengizinkannya. Untuk informasi selengkapnya, lihat Ubah objek sinkronisasi.
Kolom tak terlihat (MySQL 8.0.23+) DTS mungkin tidak membaca kolom tersembunyi yang tak terlihat di MySQL 8.0.23 atau versi lebih baru, yang dapat menyebabkan kehilangan data. Jalankan ALTER TABLE <table_name> ALTER COLUMN <column_name> SET VISIBLE; untuk membuat kolom tersembunyi menjadi terlihat sebelum menyinkronkan. Untuk informasi selengkapnya, lihat Kolom tak terlihat.

Konfigurasi log biner

Konfigurasikan parameter berikut sebelum memulai tugas sinkronisasi:

Untuk ApsaraDB RDS for MySQL:

ApsaraDB RDS for MySQL mengaktifkan binary logging secara default. Verifikasi hal berikut:

  1. Atur binlog_row_image ke full. Jika tidak, pemeriksaan awal gagal dan tugas tidak dapat dimulai. Untuk instruksi, lihat Konfigurasi parameter instans.

  2. Pertahankan log biner lokal minimal 3 hari (disarankan 7 hari).

Untuk MySQL yang dikelola sendiri:

  1. Aktifkan binary logging.

  2. Atur binlog_format ke row.

  3. Atur binlog_row_image ke full.

  4. Untuk kluster dual-primary, aktifkan juga log_slave_updates agar DTS dapat menangkap semua event log biner.

  5. Pertahankan log biner lokal minimal 7 hari.

Untuk instruksi, lihat Buat akun dan konfigurasikan binary logging untuk database MySQL yang dikelola sendiri.

Batasan lainnya

Batasan Detail
Sintaks DDL non-standar Jika pernyataan DDL instans RDS MySQL sumber tidak mengikuti sintaks standar MySQL, tugas mungkin gagal atau data dapat hilang.
DDL Online dalam mode tabel sementara Jika database sumber menggunakan DDL Online dalam mode tabel sementara—termasuk skenario penggabungan multi-tabel atau indeks berbasis fungsi pada kolom kunci unik—kehilangan data atau kegagalan tugas dapat terjadi.
Alat DDL Online DMS dan gh-ost: DTS hanya menyinkronkan pernyataan DDL asli, yang dapat menyebabkan tabel tujuan terkunci sementara. pt-online-schema-change tidak didukung saat menyinkronkan pada tingkat tabel—jika digunakan di sumber, data dapat hilang atau tugas mungkin gagal. Anda dapat menggunakan Data Management (DMS) untuk melakukan operasi DDL Online sebagai gantinya. Untuk informasi selengkapnya, lihat Ubah skema tanpa mengunci tabel.
Konflik kunci primer atau kunci unik Selama sinkronisasi penuh, DTS mempertahankan catatan tujuan dan melewati catatan sumber yang bentrok. Selama sinkronisasi inkremental, DTS menimpa catatan tujuan dengan catatan sumber. Jika skema tabel tidak konsisten, inisialisasi data dapat gagal, mengakibatkan kegagalan sinkronisasi sebagian atau total.
Rentang data tipe waktu ApsaraDB for ClickHouse memberlakukan batas rentang pada data tipe waktu. Jika data waktu di RDS MySQL berada di luar rentang ini, nilai yang disinkronkan akan salah. Lihat Informasi waktu.
Kunci partisi Kunci partisi tidak boleh berupa field nullable. Tipe yang didukung: BIGINT, INT, TIMESTAMP, DATETIME, dan DATE.
Batas database Jumlah database yang disinkronkan tidak boleh melebihi 256, yaitu batas ApsaraDB for ClickHouse.
Konvensi penamaan Nama database, tabel, dan kolom harus mematuhi konvensi penamaan ApsaraDB for ClickHouse. Untuk informasi selengkapnya, lihat Konvensi penamaan objek.
Field tambahan DTS DTS menambahkan field _sign, _is_deleted, dan _version ke tabel tujuan selama sinkronisasi skema. Jika Anda tidak memilih Schema Synchronization, buat tabel tujuan secara manual dan tambahkan field-field ini. Lihat Informasi tabel dan field.
Dampak kinerja Sinkronisasi data penuh mengonsumsi resource baca dan tulis dari database sumber dan tujuan. Jalankan sinkronisasi selama jam sepi untuk meminimalkan dampak.
Penulisan eksternal ke tujuan Jangan izinkan sumber data selain DTS menulis ke database tujuan selama sinkronisasi. Melakukannya akan menyebabkan ketidakkonsistenan data.
Always-Encrypted Sinkronisasi data penuh tidak didukung untuk instans RDS MySQL dengan Always-Encrypted diaktifkan. Instans dengan Transparent Data Encryption (TDE) diaktifkan mendukung semua jenis sinkronisasi.
Pemulihan kegagalan tugas Jika tugas gagal, staf dukungan DTS akan mencoba memulihkannya dalam waktu 8 jam. Mereka mungkin merestart tugas atau menyesuaikan parameter tugas DTS (bukan parameter database) selama pemulihan.

Catatan penggunaan

Untuk sumber MySQL yang dikelola sendiri:

  • Jika terjadi alih bencana primary/secondary selama sinkronisasi, tugas akan gagal.

  • DTS menghitung latensi dengan membandingkan timestamp catatan terakhir yang disinkronkan terhadap waktu saat ini. Jika tidak ada operasi DML yang dijalankan dalam periode panjang, pelaporan latensi mungkin menjadi tidak akurat. Jalankan operasi DML di database sumber untuk mengatur ulang latensi yang dilaporkan. Jika Anda memilih sinkronisasi database penuh, buat tabel heartbeat dan perbarui setiap detik.

  • DTS secara berkala menjalankan CREATE DATABASE IF NOT EXISTS \test\`` di database sumber untuk memajukan offset log biner.

  • Jika sumber adalah Amazon Aurora MySQL atau instans MySQL terklaster lainnya, pastikan nama domain atau alamat IP yang digunakan dalam konfigurasi tugas selalu mengarah ke node read/write (RW).

Untuk sumber ApsaraDB RDS for MySQL:

  • Instans hanya baca—seperti instans hanya baca ApsaraDB RDS for MySQL 5.6—yang tidak mencatat log transaksi tidak dapat berfungsi sebagai database sumber.

  • DTS secara berkala menjalankan CREATE DATABASE IF NOT EXISTS \test\`` di database sumber untuk memajukan offset log biner.

Buat tugas sinkronisasi

Konfigurasi tugas terdiri dari tujuh langkah. Setelah tugas dimulai, DTS pertama kali menjalankan salinan penuh data sumber, lalu terus menerapkan perubahan inkremental.

Langkah 1: Buka halaman sinkronisasi data

Buka daftar tugas Data Synchronization di wilayah tujuan menggunakan salah satu metode berikut:

Konsol DTS

  1. Masuk ke konsol DTS.

  2. Di panel navigasi kiri, klik Data Synchronization.

  3. Di pojok kiri atas, pilih wilayah tempat instans sinkronisasi akan ditempatkan.

Konsol DMS

Langkah-langkahnya dapat berbeda tergantung pada mode dan tata letak konsol DMS. Untuk informasi selengkapnya, lihat Konsol mode simple dan Sesuaikan tata letak dan gaya konsol DMS.
  1. Masuk ke konsol DMS.

  2. Di bilah menu atas, pilih Data + AI > DTS (DTS) > Data Synchronization.

  3. Di sebelah kanan Data Synchronization Tasks, pilih wilayah instans sinkronisasi.

Langkah 2: Buat tugas

Klik Create Task untuk membuka halaman konfigurasi tugas.

Langkah 3: Konfigurasi database sumber dan tujuan

Kategori Parameter Deskripsi
None Task Name DTS menghasilkan nama secara otomatis. Tentukan nama deskriptif untuk memudahkan identifikasi. Nama tidak perlu unik.
Source Database Select Existing Connection Pilih instans database terdaftar dari daftar drop-down untuk mengisi detail koneksi secara otomatis. Di konsol DMS, parameter ini diberi label Select a DMS database instance. Jika tidak ada instans terdaftar yang tersedia, konfigurasikan koneksi secara manual.
Database Type Pilih MySQL.
Access Method Pilih Alibaba Cloud Instance.
Instance Region Pilih wilayah tempat instans RDS MySQL sumber berada.
Replicate Data Across Alibaba Cloud Accounts Pilih No (akun Alibaba Cloud yang sama).
RDS Instance ID Pilih ID instans RDS MySQL sumber.
Database Account Masukkan akun database. Untuk persyaratan izin, lihat Izin akun database.
Database Password Masukkan kata sandi untuk akun database.
Encryption Pilih Non-encrypted atau SSL-encrypted. Jika Anda memilih SSL-encrypted, aktifkan enkripsi SSL pada instans RDS MySQL terlebih dahulu. Untuk informasi selengkapnya, lihat Gunakan sertifikat cloud untuk mengaktifkan enkripsi link SSL dengan cepat.
Destination Database Select Existing Connection Pilih instans database terdaftar dari daftar drop-down. Di konsol DMS, parameter ini diberi label Select a DMS database instance. Jika tidak ada instans terdaftar yang tersedia, konfigurasikan koneksi secara manual.
Database Type Pilih ClickHouse.
Access Method Pilih Alibaba Cloud Instance.
Instance Region Pilih wilayah tempat kluster ApsaraDB for ClickHouse tujuan berada.
Replicate Data Across Alibaba Cloud Accounts Pilih No (akun Alibaba Cloud yang sama).
Cluster Type Pilih jenis kluster ApsaraDB for ClickHouse.
Cluster ID Pilih ID kluster ApsaraDB for ClickHouse tujuan.
Database Account Masukkan akun database. Untuk persyaratan izin, lihat Izin akun database.
Database Password Masukkan kata sandi untuk akun database.

Langkah 4: Uji konektivitas

Klik Test Connectivity and Proceed di bagian bawah halaman.

Tambahkan blok CIDR server DTS ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses. Hal ini dapat dilakukan secara otomatis atau manual. Untuk informasi selengkapnya, lihat Tambahkan daftar putih alamat IP server DTS.
Jika sumber atau tujuan adalah database yang dikelola sendiri (yaitu, Access Method bukan Alibaba Cloud Instance), klik juga Test Connectivity di kotak dialog CIDR Blocks of DTS Servers.

Langkah 5: Konfigurasi objek dan pengaturan lanjutan

Konfigurasi objek

Di halaman Configure Objects, tentukan cakupan sinkronisasi.

Parameter Deskripsi
Synchronization Types DTS selalu memilih Incremental Data Synchronization. Secara default, Schema Synchronization dan Full Data Synchronization juga dipilih. Setelah pemeriksaan awal, DTS menginisialisasi kluster tujuan dengan salinan penuh data sumber, yang berfungsi sebagai garis dasar untuk sinkronisasi inkremental.
Processing Mode of Conflicting Tables Precheck and Report Errors: Memeriksa adanya tabel dengan nama identik di database tujuan. Jika ditemukan, kesalahan dilaporkan selama pemeriksaan awal dan tugas tidak dimulai. Jika Anda tidak dapat menghapus atau mengganti nama tabel yang bentrok, gunakan pemetaan nama untuk memberikan nama berbeda di tujuan. Untuk informasi selengkapnya, lihat Pemetaan nama kolom tabel database. Ignore Errors and Proceed: Melewati pemeriksaan nama tabel duplikat. Selama sinkronisasi penuh, DTS mempertahankan catatan tujuan dan melewati catatan sumber yang bentrok. Selama sinkronisasi inkremental, DTS menimpa catatan tujuan. Jika skema tabel tidak konsisten, inisialisasi data dapat gagal. Gunakan dengan hati-hati.
Capitalization of Object Names in Destination Instance Menetapkan kebijakan sensitivitas huruf besar/kecil untuk nama database, tabel, dan kolom di tujuan. Default-nya adalah DTS default policy. Untuk informasi selengkapnya, lihat Kebijakan huruf untuk nama objek tujuan.
Source Objects Klik objek yang akan disinkronkan di kotak Source Objects, lalu klik panah untuk memindahkannya ke kotak Selected Objects. Pilih objek pada tingkat database atau tabel.
Selected Objects Untuk mengganti nama satu objek di tujuan, klik kanan objek tersebut di kotak Selected Objects. Untuk mengganti nama beberapa objek sekaligus, klik Batch Edit di pojok kanan atas. Untuk memfilter data, klik kanan tabel di kotak Selected Objects dan atur kondisi filter. Untuk informasi selengkapnya, lihat Atur kondisi filter. Perhatikan bahwa penggunaan pemetaan nama dapat menyebabkan objek dependen gagal disinkronkan.

Klik Next: Advanced Settings.

Pengaturan lanjutan

Parameter Deskripsi
Dedicated Cluster for Task Scheduling DTS menggunakan kluster bersama secara default. Untuk stabilitas tugas yang lebih baik, beli kluster khusus. Untuk informasi selengkapnya, lihat Apa itu kluster khusus DTS?.
Time zone of destination database Pilih zona waktu untuk data DateTime yang ditulis ke kluster ApsaraDB for ClickHouse.
Retry Time for Failed Connections Menetapkan berapa lama DTS mencoba lagi setelah kegagalan koneksi. Default: 720 menit. Rentang: 10–1.440 menit. Atur minimal 30 menit. Jika koneksi dipulihkan dalam periode ini, tugas dilanjutkan secara otomatis. Jika beberapa instans DTS berbagi sumber atau tujuan, DTS menggunakan durasi retry terpendek yang dikonfigurasi di semua instans. DTS menagih waktu proses tugas selama retry—segera lepas instans DTS setelah Anda melepas instans sumber atau tujuan.
Retry Time for Other Issues Menetapkan berapa lama DTS mencoba lagi setelah error non-koneksi (seperti kegagalan eksekusi DDL atau DML). Default: 10 menit. Rentang: 1–1.440 menit. Harus kurang dari Retry Time for Failed Connections.
Enable Throttling for Full Data Synchronization Membatasi laju sinkronisasi penuh untuk mengurangi beban pada database tujuan. Atur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s). Hanya tersedia saat Full Data Synchronization dipilih. Anda juga dapat menyesuaikan laju setelah tugas dimulai.
Enable Throttling for Incremental Data Synchronization Membatasi laju sinkronisasi inkremental. Atur RPS of Incremental Data Synchronization dan Data synchronization speed for incremental synchronization (MB/s).
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks Mengontrol apakah DTS menulis SQL heartbeat ke database sumber. Yes: Tidak menulis SQL heartbeat—instans DTS mungkin menunjukkan latensi lebih tinggi. No: Menulis SQL heartbeat—hal ini dapat mengganggu backup fisik dan kloning di sumber.
Environment Tag Secara opsional beri tag instans untuk mengidentifikasi lingkungannya.
Configure ETL Yes: Mengaktifkan ekstrak, transformasi, dan muat (ETL). Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Konfigurasi ETL dalam tugas migrasi data atau sinkronisasi data. No: Menonaktifkan ETL.
Monitoring and Alerting Yes: Mengonfigurasi peringatan. Atur ambang batas peringatan dan kontak notifikasi. Untuk informasi selengkapnya, lihat Konfigurasi pemantauan dan peringatan selama konfigurasi tugas. No: Tidak ada peringatan yang dikonfigurasi.

Konfigurasi field database dan tabel

Klik Next: Configure Database and Table Fields untuk mengonfigurasi Type, Primary Key Column, Sort Key, Distribution Key, dan Partition Key untuk setiap tabel yang disinkronkan ke ClickHouse.

DTS menyediakan konfigurasi default. Atur Definition Status ke All untuk meninjau dan mengubah semua tabel.

  • Primary Key Column dan Sort Key mendukung kunci komposit—pilih beberapa field dari daftar drop-down.

  • Hanya satu field yang dapat dipilih sebagai Distribution Key.

  • Pilih satu atau beberapa kolom dari Primary Key Column sebagai Partition Key.

  • Partition Key bersifat opsional, tetapi jika ditentukan, tidak boleh berupa field nullable. Tipe yang didukung: BIGINT, INT, TIMESTAMP, DATETIME, dan DATE. Untuk logika perhitungan, lihat Logika perhitungan kunci partisi.

Untuk informasi selengkapnya tentang kolom kunci primer, kunci pengurutan, dan kunci partisi, lihat CREATE TABLE.

Langkah 6: Simpan tugas dan jalankan pemeriksaan awal

  • Untuk melihat pratinjau parameter API untuk tugas ini, arahkan kursor ke Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di tooltip.

  • Klik Next: Save Task Settings and Precheck.

DTS menjalankan pemeriksaan awal sebelum tugas dimulai. Tugas hanya dimulai jika pemeriksaan awal lolos.

  • Jika pemeriksaan awal gagal, klik View Details di sebelah item yang gagal, perbaiki masalahnya, dan jalankan ulang pemeriksaan awal.

  • Jika pemeriksaan awal menghasilkan peringatan:

    • Untuk peringatan yang tidak dapat diabaikan, klik View Details, perbaiki masalahnya, dan jalankan ulang pemeriksaan awal.

    • Untuk peringatan yang dapat diabaikan, klik Confirm Alert Details > Ignore > OK, lalu klik Precheck Again. Mengabaikan peringatan dapat menyebabkan ketidakkonsistenan data. Lanjutkan dengan hati-hati.

Langkah 7: Beli instans sinkronisasi

  1. Saat Success Rate mencapai 100%, klik Next: Purchase Instance.

  2. Di halaman Purchase, pilih metode penagihan dan kelas instans.

Kategori Parameter Deskripsi
New Instance Class Metode penagihan Subscription: Bayar di muka untuk durasi tetap. Cocok untuk tugas jangka panjang dan berkelanjutan. Opsi bulanan: 1–9 bulan. Opsi tahunan: 1, 2, 3, atau 5 tahun. Pay-as-you-go: Ditagih per jam berdasarkan penggunaan aktual. Cocok untuk tugas jangka pendek atau pengujian.
Resource Group Settings — Kelompok sumber daya untuk instans. Default: default resource group. Untuk informasi selengkapnya, lihat Apa itu Resource Management?.
Instance Class — Mempengaruhi kinerja sinkronisasi. Pilih berdasarkan kebutuhan bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link sinkronisasi data.
  1. Baca dan centang kotak Data Transmission Service (Pay-as-you-go) Service Terms.

  2. Klik Buy and Start, lalu klik OK.

Monitor progres tugas di halaman sinkronisasi data.

Lampiran

Informasi waktu

Tipe data Nilai minimum Nilai maksimum
Date 1970-01-01 00:00:00 2149-06-06 00:00:00
Date32 1925-01-01 00:00:00 2283-11-11 00:00:00
DateTime 1970-01-01 08:00:00 2106-02-07 14:28:15
DateTime64 1925-01-01 08:00:00 2283-11-12 07:59:59

Informasi tabel dan field

Persyaratan tabel

Jika Anda tidak menggunakan fitur pemetaan nama objek, tabel yang Anda buat harus memenuhi persyaratan berikut.

Penting

Jika tabel tujuan menentukan ENGINE, harus berupa ENGINE = ReplicatedReplacingMergeTree(_version, _is_deleted). Jika tidak, ketidakkonsistenan data dapat terjadi.

  • Instans Edisi Komunitas: Buat satu tabel lokal dan satu tabel terdistribusi. Nama tabel terdistribusi harus sesuai dengan nama tabel sumber. Nama tabel lokal harus mengikuti format <distributed_table_name>_local.

  • Instans Edisi Perusahaan: Buat tabel dengan nama yang sama dengan tabel sumber.

Field yang ditambahkan oleh DTS

DTS menambahkan field berikut ke tabel tujuan selama sinkronisasi skema. Untuk mengkueri data dan memfilter catatan yang dihapus, jalankan:

SELECT * FROM table_name FINAL WHERE _sign > 0;

Kata kunci FINAL memfilter baris dengan kunci pengurutan duplikat, dan _sign > 0 mengecualikan catatan yang dihapus.

Versi Field Tipe data Nilai default Deskripsi
Edisi Komunitas sebelum v23.8 _sign Int8 1 Jenis operasi DML. INSERT dan UPDATE = 1. DELETE = -1.
_version UInt64 1 Timestamp saat catatan ditulis ke ClickHouse.
Edisi Perusahaan dan Edisi Komunitas v23.8 atau lebih baru _sign Int8 1 Jenis operasi DML. INSERT dan UPDATE = 1. DELETE = -1.
_is_deleted UInt8 0 Apakah catatan dihapus. INSERT dan UPDATE = 0. DELETE = 1.
_version UInt64 1 Timestamp saat catatan ditulis ke ClickHouse.

Logika perhitungan kunci partisi

Tipe field sumber Logika perhitungan
BIGINT intDiv(field, 18014398509481984)
INT intDiv(field, 4194304)
TIMESTAMP toYYYYMM(field)
DATETIME toYYYYMM(field)
DATE toYYYYMM(field)