Topik ini menjelaskan cara migrasi data dari instans PolarDB-X ke instans Elasticsearch menggunakan DTS.
Prasyarat
-
Instans sumber PolarDB-X 2.0 telah dibuat.
-
Instans tujuan Elasticsearch telah dibuat. Untuk informasi selengkapnya, lihat Buat instans Alibaba Cloud Elasticsearch.
-
Untuk versi yang didukung oleh instans sumber dan tujuan, lihat Ikhtisar solusi migrasi.
-
Instans tujuan Elasticsearch harus memiliki ruang penyimpanan lebih besar daripada instans sumber PolarDB-X 2.0.
Batasan
-
Selama migrasi skema, DTS memigrasikan kunci asing dari database sumber ke database tujuan.
-
Selama migrasi data penuh dan migrasi data inkremental, DTS sementara menonaktifkan pemeriksaan kendala dan operasi kaskade kunci asing pada tingkat sesi. Melakukan operasi cascade update atau delete pada database sumber saat tugas berjalan dapat menyebabkan ketidakkonsistenan data.
|
Type |
Description |
|
Batasan database sumber |
|
|
Batasan lainnya |
|
|
Tindakan Pencegahan Lainnya |
DTS secara berkala memperbarui tabel |
Penagihan
|
Jenis migrasi |
Biaya konfigurasi instans |
Biaya Lalu Lintas Internet |
|
Migrasi skema dan migrasi data penuh |
Gratis. |
Saat parameter Access Method database tujuan diatur ke Public IP Address, Anda dikenai biaya untuk traffic Internet. Untuk informasi selengkapnya, lihat Ikhtisar penagihan. |
|
Migrasi data inkremental |
Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan. |
Jenis migrasi
-
Migrasi skema
DTS memigrasikan definisi skema objek migrasi dari database sumber ke database tujuan.
-
Migrasi penuh
DTS memigrasikan semua data historis objek migrasi yang ditentukan dari database sumber ke database tujuan.
-
Migrasi inkremental
Setelah migrasi penuh selesai, DTS memigrasikan pembaruan data inkremental dari database sumber ke database tujuan. Migrasi inkremental memungkinkan Anda memigrasikan data secara lancar tanpa mengganggu aplikasi yang dikelola sendiri.
Operasi SQL untuk migrasi inkremental
|
Type |
SQL statement |
|
DML |
INSERT, UPDATE, dan DELETE Catatan
Menggunakan pernyataan UPDATE untuk menghapus kolom bukanlah operasi yang didukung. |
Persyaratan izin untuk akun database
|
Database |
Migrasi skema |
Migrasi penuh |
Migrasi inkremental |
|
Instans sumber PolarDB-X 2.0 |
Izin |
Izin |
Izin Catatan
Untuk informasi tentang cara memberikan izin, lihat Masalah izin akun selama sinkronisasi data. |
|
Instans tujuan Elasticsearch |
Akun database harus memiliki izin baca dan tulis. Biasanya, ini adalah akun |
||
Pemetaan tipe data
-
Database sumber dan instans Elasticsearch mendukung tipe data yang berbeda yang tidak selalu dapat dipetakan secara langsung. Selama inisialisasi struktur, DTS memetakan tipe data berdasarkan yang didukung oleh instans Elasticsearch target. Untuk informasi selengkapnya, lihat Pemetaan tipe data untuk inisialisasi struktur.
CatatanSelama proses migrasi skema DTS, DTS tidak mengatur parameter
dynamicdalammapping. Perilaku parameter ini bergantung pada pengaturan instans Elasticsearch Anda. Jika data sumber Anda bertipe JSON, Anda harus memastikan bahwa untuk kunci tertentu, nilai yang sesuai memiliki tipe data yang sama di semua baris dalam tabel. Jika tidak, DTS mungkin mengalami masalah sinkronisasi. Untuk informasi selengkapnya, lihat dynamic. -
Pemetaan antara Elasticsearch dan database relasional bervariasi berdasarkan versi Elasticsearch.
PentingMulai Elasticsearch 7.0, satu indeks tidak lagi mendukung beberapa tipe, dan tipe benar-benar dihapus di Elasticsearch 8.0. Secara default, saat Anda mengonfigurasi tugas sinkronisasi atau migrasi, DTS memetakan tabel dari database relasional ke indeks di Elasticsearch. Anda dapat mengubah pemetaan ini saat mengonfigurasi objek untuk disinkronkan atau dimigrasikan.
Elasticsearch 7.0 dan versi setelahnya
Elasticsearch
Database relasional
index
table
document
row
field
column
mapping
schema
Versi sebelum Elasticsearch 7.0
Elasticsearch
Database relasional
index
database
type
table
document
row
field
column
mapping
schema
Prosedur
-
Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.
Dari Konsol DTS
-
Login ke Konsol Data Transmission Service (DTS).
-
Di panel navigasi kiri, klik Data Migration.
-
Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Konsol mode sederhana dan Sesuaikan tata letak dan gaya Konsol DMS.
-
Login ke Konsol Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.
-
-
Klik Create Task untuk membuka halaman konfigurasi tugas.
-
Konfigurasikan database sumber dan tujuan.
PeringatanSetelah memilih instans sumber dan tujuan, kami sarankan Anda membaca dengan cermat batasan yang ditampilkan di bagian atas halaman. Jika tidak, tugas mungkin gagal atau terjadi ketidakkonsistenan data.
Bagian
Parameter
Description
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami sarankan Anda menentukan nama deskriptif untuk memudahkan identifikasi. Nama tidak perlu unik.
Select Existing Connection
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan informasi database secara manual di bawah.
Database Type
Pilih PolarDB-X 2.0.
Connection Type
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans sumber PolarDB-X 2.0 berada.
Replicate Data Across Alibaba Cloud Accounts
Contoh ini menunjukkan migrasi dalam satu Akun Alibaba Cloud. Pilih No.
Instance ID
Pilih ID instans sumber PolarDB-X 2.0.
Database Account
Masukkan akun database instans sumber PolarDB-X 2.0. Untuk informasi tentang izin yang diperlukan, lihat Izin akun database.
Database Password
Masukkan password untuk akun database.
Destination database settings:
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan informasi database secara manual di bawah.
Database Type
Pilih Elasticsearch.
Connection Type
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans tujuan Elasticsearch berada.
Type
Pilih Cluster Edition atau Serverless sesuai kebutuhan Anda.
Instance ID
Pilih ID instans tujuan Elasticsearch.
Database Account
Masukkan akun database instans tujuan Elasticsearch. Akun default adalah elastic. Untuk informasi tentang izin yang diperlukan, lihat Izin akun database.
Database Password
Masukkan password untuk akun database.
Encryption
Pilih HTTP atau HTTPS sesuai kebutuhan.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan-
Pastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi selengkapnya, lihat Tambahkan alamat IP server DTS ke daftar putih.
-
Jika database sumber atau tujuan adalah database yang dikelola sendiri (parameter Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers yang muncul.
-
-
Konfigurasikan objek tugas.
-
Di halaman Configure Objects, konfigurasikan objek yang ingin Anda migrasikan.
Parameter
Description
Migration Types
-
Jika Anda hanya perlu melakukan migrasi penuh, pilih Schema Migration dan Full Data Migration.
-
Untuk melakukan migrasi tanpa downtime, pilih Schema Migration, Full Data Migration, dan Incremental Data Migration.
Catatan-
Jika Anda tidak memilih Schema Migration, Anda harus memastikan bahwa database dan tabel untuk menerima data sudah ada di database tujuan. Anda juga dapat menggunakan fitur pemetaan nama objek di kotak Selected Objects sesuai kebutuhan.
-
Jika Anda tidak memilih Incremental Data Migration, jangan menulis data baru ke instans sumber selama migrasi data untuk memastikan konsistensi data.
Index Name
-
Table Name
Jika Anda memilih Table Name, nama indeks yang dibuat di instans tujuan Elasticsearch sama dengan nama tabel. Dalam contoh ini, nama indeks adalah
order. -
Database Name_Table Name
Jika Anda memilih Database Name_Table Name, nama indeks yang dibuat di instans Elasticsearch tujuan akan mengikuti format
Database name_Table name. Dalam contoh ini, nama indeksnya adalahdtstest_order.
Processing Mode of Conflicting Tables
-
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, pemeriksaan awal lolos. Jika ada tabel dengan nama yang sama, kesalahan dilaporkan selama pemeriksaan awal, dan tugas migrasi data tidak dimulai.
CatatanJika tabel di database tujuan memiliki nama yang sama tetapi tidak dapat dengan mudah dihapus atau diganti namanya, Anda dapat mengubah nama tabel di database tujuan. Untuk informasi selengkapnya, lihat Pemetaan nama objek.
-
Ignore Errors and Proceed: Melewati pemeriksaan untuk tabel dengan nama yang sama.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan ketidakkonsistenan data dan risiko bisnis. Misalnya:
-
Jika skema tabel konsisten dan catatan di database tujuan memiliki nilai kunci primer yang sama dengan catatan di database sumber:
-
Selama migrasi penuh, DTS menyimpan catatan di database tujuan. Catatan dari database sumber tidak dimigrasikan.
-
Selama migrasi inkremental, DTS tidak menyimpan catatan di database tujuan. Catatan dari database sumber menimpa catatan di database tujuan.
-
-
Jika skema tabel tidak konsisten, hanya beberapa kolom data yang mungkin dimigrasikan, atau migrasi mungkin gagal. Lanjutkan dengan hati-hati.
-
Capitalization of Object Names in Destination Instance
Anda dapat mengonfigurasi kebijakan sensitivitas huruf besar/kecil untuk nama database, tabel, dan kolom di instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih kebijakan yang konsisten dengan database sumber atau tujuan. Untuk informasi selengkapnya, lihat Sensitivitas huruf besar/kecil nama objek di database tujuan.
Source Objects
Pilih satu atau beberapa objek dari bagian Source Objects. Klik ikon
dan tambahkan objek ke bagian Selected Objects. CatatanGranularitas untuk memilih objek migrasi adalah skema, tabel, dan kolom. Jika Anda hanya memilih tabel atau kolom sebagai objek migrasi, objek lain seperti view, trigger, dan stored procedure tidak dimigrasikan ke database tujuan.
-
Untuk mengubah nama satu objek migrasi di instans target, klik kanan objek di kotak Selected Objects. Untuk informasi selengkapnya, lihat Pemetaan nama skema, tabel, dan kolom individual.
-
Untuk mengubah nama beberapa objek migrasi di instans target, klik Selected Objects di pojok kanan atas kotak Batch Edit. Untuk informasi selengkapnya, lihat Pemetaan nama skema, tabel, dan kolom ganda.
Catatan-
Underscore (_) adalah satu-satunya karakter khusus yang didukung dalam nama indeks dan tipe.
-
Jika Anda menggunakan fitur pemetaan nama objek, migrasi objek lain yang bergantung pada objek yang diganti namanya mungkin gagal.
-
Untuk menetapkan kondisi WHERE untuk memfilter data, klik kanan tabel yang ingin Anda migrasikan di bagian Selected Objects, dan atur kondisi filter di kotak dialog yang muncul. Untuk informasi selengkapnya, lihat Filter data tugas menggunakan kondisi SQL.
-
Untuk memilih operasi SQL yang akan dimigrasikan pada level database atau tabel, klik kanan objek di kotak Selected Objects dan pilih operasi SQL yang diinginkan di kotak dialog yang muncul.
-
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Description
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas pada klaster bersama. Anda tidak perlu memilih satu. Jika Anda menginginkan tugas yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas migrasi DTS.
Retry Time for Failed Connections
Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan kesalahan dan segera mulai mencoba menghubungkan kembali. Durasi percobaan ulang default adalah 720 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 10 hingga 1.440 menit. Kami sarankan Anda mengatur durasi lebih dari 30 menit. Jika DTS terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi secara otomatis dilanjutkan. Jika tidak, tugas gagal.
Catatan-
Untuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu percobaan ulang jaringan ditentukan oleh pengaturan tugas yang dibuat terakhir.
-
Karena Anda dikenai biaya untuk tugas selama periode percobaan ulang koneksi, kami sarankan Anda menyesuaikan waktu percobaan ulang berdasarkan kebutuhan bisnis Anda, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti pengecualian eksekusi DDL atau DML, di database sumber atau tujuan, DTS melaporkan kesalahan dan segera mulai mencoba mengulang operasi tersebut. Durasi percobaan ulang default adalah 10 menit. Anda dapat menyesuaikan waktu percobaan ulang ke nilai antara 1 hingga 1.440 menit. Kami sarankan Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditentukan, tugas migrasi secara otomatis dilanjutkan. Jika tidak, tugas gagal.
PentingNilai Retry Time for Other Issues harus kurang dari nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Selama migrasi penuh, DTS mengonsumsi sumber daya baca dan tulis pada database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban pada database tujuan.
Catatan-
Item konfigurasi ini tersedia hanya jika Anda memilih Full Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instans migrasi berjalan.
Enable Throttling for Incremental Data Migration
Jika diperlukan, Anda juga dapat memilih untuk mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban pada database tujuan.
Catatan-
Item konfigurasi ini tersedia hanya jika Anda memilih Incremental Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi inkremental setelah instans migrasi berjalan.
Environment Tag
Anda dapat memilih tag lingkungan untuk mengidentifikasi instans. Parameter ini opsional.
Shard Configuration
Atur jumlah shard primer dan replika untuk indeks berdasarkan konfigurasi shard maksimum indeks di instans tujuan Elasticsearch.
String Index
Metode yang digunakan untuk mengindeks string di instans tujuan Elasticsearch.
-
analyzed: Menganalisis string sebelum mengindeksnya. Anda juga harus memilih alat analisis tertentu. Untuk informasi tentang jenis dan fungsi alat analisis, lihat Analyzers.
-
not analyzed: Mengindeks string dengan nilai aslinya tanpa analisis.
-
no: Tidak mengindeks string.
Time Zone
Saat DTS memigrasikan tipe data terkait waktu (seperti DATETIME dan TIMESTAMP) ke instans tujuan Elasticsearch, Anda dapat memilih zona waktu.
CatatanJika tipe data terkait waktu ini tidak memerlukan zona waktu di instans tujuan, Anda harus mengatur tipe dokumen (type) untuk tipe data ini di instans tujuan sebelum migrasi.
DOCID
DOCID secara default adalah kunci primer tabel. Jika tabel tidak memiliki kunci primer, DOCID adalah kolom ID yang secara otomatis dihasilkan oleh Elasticsearch.
Whether to delete SQL operations on heartbeat tables of forward and reverse tasks
Pilih apakah akan menulis informasi SQL heartbeat ke database sumber saat instans DTS berjalan.
-
Yes: Informasi SQL heartbeat tidak ditulis ke database sumber. Hal ini dapat menyebabkan instans DTS melaporkan keterlambatan.
-
No: Menulis informasi SQL heartbeat ke database sumber. Hal ini dapat mengganggu fitur seperti backup fisik dan kloning database sumber.
Configure ETL
Pilih apakah akan mengaktifkan fitur extract, transform, and load (ETL). Untuk informasi selengkapnya, lihat Apa itu ETL? Nilai yang valid:
-
Yes: Mengaktifkan fitur ETL. Masukkan pernyataan pemrosesan data di editor kode. Untuk informasi selengkapnya, lihat Konfigurasi ETL dalam tugas migrasi data atau sinkronisasi data.
-
No: Menonaktifkan fitur ETL.
Monitoring and Alerting
Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan berdasarkan kebutuhan bisnis Anda.
-
No: Tidak mengatur peringatan.
-
Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan pemberitahuan peringatan. Jika migrasi gagal atau latensi melebihi ambang batas, sistem mengirim pemberitahuan peringatan.
-
-
Setelah menyelesaikan konfigurasi di atas, klik Next: Configure Database and Table Fields di bagian bawah halaman untuk mengatur kebijakan `_routing` dan nilai `_id` untuk tabel yang akan dimigrasikan di instans tujuan Elasticsearch.
Type
Description
Set _routing
Mengatur _routing dapat mengarahkan dan menyimpan dokumen pada shard tertentu di instans Elasticsearch tujuan. Untuk informasi selengkapnya, lihat _routing.
-
Pilih Yes untuk menggunakan kolom kustom untuk routing.
-
Pilih No untuk menggunakan _id untuk routing.
CatatanJika instans Elasticsearch tujuan adalah versi 7.x, Anda harus memilih No.
Value of _id
-
Primary key column of the table
Kunci primer komposit digabung menjadi satu kolom.
-
Business primary key
Jika Anda memilih Business primary key, Anda juga harus mengatur Business primary key column yang sesuai.
-
-
-
Simpan tugas dan jalankan pemeriksaan awal.
-
Untuk melihat parameter konfigurasi instans ini saat memanggil Operasi API, arahkan pointer ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung yang muncul.
-
Jika Anda tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum tugas migrasi dimulai, DTS melakukan pemeriksaan awal. Tugas hanya dimulai setelah lolos pemeriksaan awal.
-
Jika pemeriksaan awal gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan pemeriksaan awal lagi.
-
Jika peringatan dilaporkan selama pemeriksaan awal:
-
Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan pemeriksaan awal lagi.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan pemeriksaan awal lagi. Jika Anda memilih untuk mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti ketidakkonsistenan data dan menimbulkan risiko bagi bisnis Anda.
-
-
-
Beli instans.
-
Saat Success Rate mencapai 100%, klik Next: Purchase Instance.
-
Di halaman Purchase, pilih spesifikasi link untuk instans migrasi data. Untuk informasi selengkapnya, lihat tabel berikut.
Kategori
Parameter
Description
New Instance Class
Resource Group Settings
Pilih kelompok sumber daya tempat instans tersebut berada. Nilai default adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu Resource Management?
Instance Class
DTS menyediakan spesifikasi migrasi dengan tingkat kinerja berbeda. Spesifikasi link memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi link migrasi data.
-
Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
-
Klik Buy and Start. Di kotak dialog OK yang muncul, klik OK.
Anda dapat melihat kemajuan tugas migrasi di halaman daftar Data Migration Tasks.
Catatan-
Jika tugas migrasi tidak mencakup migrasi inkremental, tugas akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status berubah menjadi Completed.
-
Jika tugas migrasi mencakup migrasi inkremental, tugas tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.
-
-
Periksa indeks dan data yang dimigrasikan
Saat tugas migrasi data berstatus Running, hubungkan ke klaster Elasticsearch menggunakan Kibana untuk memverifikasi bahwa indeks dan data telah dimigrasikan sesuai harapan. Untuk informasi tentang cara login, lihat Login ke konsol Kibana.
Jika hasil migrasi tidak sesuai harapan, Anda dapat menghapus indeks dan datanya, lalu mengonfigurasi ulang tugas migrasi data.