Topik ini menjelaskan cara memigrasikan data dari instans PolarDB-X 1.0 ke klaster Elasticsearch menggunakan DTS.
Prasyarat
-
Anda telah membuat instans PolarDB-X 1.0 sumber. Untuk informasi selengkapnya, lihat Buat instans PolarDB-X 1.0.
CatatanInstans PolarDB-X 1.0 harus menggunakan ApsaraDB RDS for MySQL sebagai tipe penyimpanannya. Ini mencakup instans RDS yang dikustomisasi secara privat maupun yang dibeli terpisah. PolarDB for MySQL tidak didukung.
-
Anda telah membuat instans Elasticsearch tujuan. Untuk informasi selengkapnya, lihat Buat instans Alibaba Cloud Elasticsearch.
-
Instans Elasticsearch tujuan harus memiliki ruang penyimpanan lebih besar daripada instans PolarDB-X 1.0 sumber.
Batasan
|
Tipe |
Deskripsi |
|
Batasan database sumber |
|
|
Batasan lainnya |
|
|
Catatan penggunaan lainnya |
DTS secara berkala memperbarui tabel |
Penagihan
Penagihan
|
Tipe migrasi |
Biaya konfigurasi instans |
Biaya lalu lintas Internet |
|
Migrasi skema dan migrasi data penuh |
Gratis. |
Ketika parameter Access Method database tujuan diatur ke Public IP Address, Anda dikenai biaya lalu lintas Internet. Untuk informasi selengkapnya, lihat Ikhtisar penagihan. |
|
Migrasi data inkremental |
Dikenai biaya. Untuk informasi selengkapnya, lihat Ikhtisar penagihan. |
Tipe migrasi
-
Migrasi skema
DTS memigrasikan definisi skema objek migrasi dari database sumber ke database tujuan.
-
Migrasi penuh
DTS memigrasikan semua data historis dari objek migrasi yang ditentukan dari database sumber ke database tujuan.
-
Migrasi inkremental
Setelah migrasi penuh selesai, DTS memigrasikan pembaruan data inkremental dari database sumber ke database tujuan. Migrasi inkremental memungkinkan Anda memigrasikan data secara lancar tanpa mengganggu aplikasi yang dikelola sendiri.
Operasi SQL untuk migrasi inkremental
|
Jenis |
Pernyataan SQL |
|
DML |
INSERT, UPDATE, dan DELETE Catatan
Menggunakan pernyataan UPDATE untuk menghapus kolom bukanlah operasi yang didukung. |
Izin akun database
|
Database |
Migrasi skema |
Migrasi data penuh |
Migrasi data inkremental |
|
Instans PolarDB-X |
SELECT |
SELECT |
Izin baca dan tulis untuk objek yang akan dimigrasikan. Catatan
Untuk informasi selengkapnya, lihat manajemen akun. |
|
Klaster Elasticsearch |
Akun database harus memiliki izin baca dan tulis. Akun tersebut biasanya adalah elastic. |
||
Pemetaan tipe data
-
Database sumber dan instans Elasticsearch mendukung tipe data yang berbeda yang tidak selalu dapat dipetakan secara langsung. Selama inisialisasi struktur, DTS memetakan tipe data berdasarkan tipe yang didukung oleh instans Elasticsearch target. Untuk informasi selengkapnya, lihat Pemetaan tipe data untuk inisialisasi struktur.
CatatanSelama proses migrasi skema, DTS tidak mengatur parameter
mappingdynamic. Perilaku parameter ini bergantung pada pengaturan instans Elasticsearch Anda. Jika data sumber Anda bertipe JSON, pastikan bahwa untuk kunci tertentu, nilai yang sesuai memiliki tipe data yang sama di semua baris dalam tabel. Jika tidak, DTS mungkin mengalami masalah sinkronisasi. Untuk informasi selengkapnya, lihat dynamic. -
Pemetaan antara Elasticsearch dan database relasional bervariasi berdasarkan versi Elasticsearch.
PentingMulai Elasticsearch 7.0, satu indeks tidak lagi mendukung beberapa tipe, dan tipe benar-benar dihapus di Elasticsearch 8.0. Secara default, saat Anda mengonfigurasi tugas sinkronisasi atau migrasi, DTS memetakan tabel dari database relasional ke indeks di Elasticsearch. Anda dapat mengubah pemetaan ini saat mengonfigurasi objek untuk disinkronkan atau dimigrasikan.
Elasticsearch 7.0 dan yang lebih baru
Elasticsearch
Database relasional
index
table
document
row
field
column
mapping
schema
Versi sebelum Elasticsearch 7.0
Elasticsearch
Database relasional
index
database
type
table
document
row
field
column
mapping
schema
Prosedur
-
Buka halaman daftar tugas migrasi untuk wilayah tujuan menggunakan salah satu metode berikut.
Dari Konsol DTS
-
Login ke Konsol Data Transmission Service (DTS).
-
Di panel navigasi kiri, klik Data Migration.
-
Di pojok kiri atas halaman, pilih wilayah tempat instans migrasi berada.
Dari Konsol DMS
CatatanOperasi aktual dapat berbeda tergantung pada mode dan tata letak Konsol DMS. Untuk informasi selengkapnya, lihat Konsol mode sederhana dan Sesuaikan tata letak dan gaya Konsol DMS.
-
Login ke Konsol Data Management (DMS).
-
Di bilah menu atas, pilih .
-
Di sebelah kanan Data Migration Tasks, pilih wilayah tempat instans migrasi berada.
-
-
Klik Create Task untuk membuka halaman konfigurasi tugas.
-
Konfigurasikan database sumber dan tujuan.
Bagian
Parameter
Deskripsi
N/A
Task Name
DTS secara otomatis menghasilkan nama tugas. Kami menyarankan Anda menentukan nama deskriptif agar mudah diidentifikasi. Nama tersebut tidak perlu unik.
Source Database
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan informasi database secara manual di bawah.
Database Type
Pilih PolarDB-X 1.0.
Connection Type
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans PolarDB-X 1.0 sumber berada.
Replicate Data Across Alibaba Cloud Accounts
Contoh ini menunjukkan cara migrasi data dalam satu Akun Alibaba Cloud yang sama. Pilih No.
RDS Instance ID
Pilih ID instans PolarDB-X 1.0 sumber.
Database Account
Masukkan akun database instans PolarDB-X 1.0 sumber. Untuk informasi tentang izin yang diperlukan, lihat Izin yang diperlukan untuk akun database.
Database Password
Masukkan kata sandi untuk akun database.
Destination Database
Select Existing Connection
-
Untuk menggunakan instans database yang telah ditambahkan ke sistem (dibuat atau disimpan), pilih instans database yang diinginkan dari daftar drop-down. Informasi database di bawah akan dikonfigurasi secara otomatis.
CatatanDi Konsol DMS, parameter ini bernama Select a DMS database instance..
-
Jika Anda belum mendaftarkan instans database ke sistem, atau tidak perlu menggunakan instans terdaftar, konfigurasikan informasi database secara manual di bawah.
Database Type
Pilih Elasticsearch.
Connection Type
Pilih Alibaba Cloud Instance.
Instance Region
Pilih wilayah tempat instans Elasticsearch tujuan berada.
Type
Pilih Cluster edition atau serverless sesuai kebutuhan bisnis Anda.
Instance ID
Pilih ID instans Elasticsearch tujuan.
Database Account
Masukkan akun yang digunakan untuk menghubungkan ke instans Elasticsearch. Ini adalah username yang Anda tentukan saat membuat instans. Akun default adalah elastic.
Database Password
Masukkan kata sandi untuk akun database.
Encryption
Pilih HTTP atau HTTPS sesuai kebutuhan.
-
-
Setelah menyelesaikan konfigurasi, klik Test Connectivity and Proceed di bagian bawah halaman.
Catatan-
Pastikan segmen alamat IP layanan DTS telah ditambahkan secara otomatis atau manual ke pengaturan keamanan database sumber dan tujuan untuk mengizinkan akses dari server DTS. Untuk informasi selengkapnya, lihat Tambahkan alamat IP server DTS ke daftar putih.
-
Jika database sumber atau tujuan adalah database yang dikelola sendiri (Access Method bukan Alibaba Cloud Instance), Anda juga harus mengklik Test Connectivity di kotak dialog CIDR Blocks of DTS Servers yang muncul.
-
-
Konfigurasikan objek tugas.
-
Di halaman Configure Objects, konfigurasikan objek yang ingin Anda migrasikan.
Parameter
Deskripsi
Synchronization Type
-
Jika hanya perlu melakukan migrasi penuh, pilih Schema Migration dan Full Data Migration.
-
Untuk melakukan migrasi tanpa downtime, pilih Schema Migration, Full Data Migration, dan Incremental Data Migration.
Catatan-
Jika tidak memilih Schema Migration, pastikan database dan tabel untuk menerima data sudah ada di database tujuan. Anda juga dapat menggunakan fitur pemetaan nama objek di kotak Selected Objects sesuai kebutuhan.
-
Jika tidak memilih Incremental Data Migration, jangan menulis data baru ke instans sumber selama migrasi data untuk memastikan konsistensi data.
Processing Mode for Existing Destination Tables
-
Precheck and Report Errors: Memeriksa apakah tabel dengan nama yang sama sudah ada di database tujuan. Jika tidak ada tabel dengan nama yang sama, pemeriksaan awal lolos. Jika tabel dengan nama yang sama ada, kesalahan dilaporkan selama pemeriksaan awal, dan tugas migrasi data tidak dimulai.
CatatanJika tabel di database tujuan memiliki nama yang sama tetapi tidak dapat dengan mudah dihapus atau diganti namanya, Anda dapat mengubah nama tabel di database tujuan. Untuk informasi selengkapnya, lihat Pemetaan nama objek.
-
Ignore Errors and Proceed: Melewati pemeriksaan untuk tabel dengan nama yang sama.
PeringatanMemilih Ignore Errors and Proceed dapat menyebabkan inkonsistensi data dan risiko bisnis. Misalnya:
-
Jika skema tabel konsisten dan catatan di database tujuan memiliki nilai kunci utama yang sama dengan catatan di database sumber:
-
Selama migrasi penuh, DTS menyimpan catatan di database tujuan. Catatan dari database sumber tidak dimigrasikan.
-
Selama migrasi inkremental, DTS tidak menyimpan catatan di database tujuan. Catatan dari database sumber menimpa catatan di database tujuan.
-
-
Jika skema tabel tidak konsisten, hanya beberapa kolom data yang mungkin dimigrasikan, atau migrasi dapat gagal. Lakukan dengan hati-hati.
-
Index Name
-
Jika memilih Table Name, indeks di instans tujuan Elasticsearch dinamai sesuai nama tabel.
-
Jika memilih Database Name_Table Name, indeks di instans tujuan Elasticsearch dinamai dalam format Nama database_Nama tabel.
CatatanKonfigurasi pemetaan nama indeks berlaku untuk semua tabel.
Case Policy for Destination Object Names
Anda dapat mengonfigurasi kebijakan sensitivitas huruf besar/kecil untuk nama database, tabel, dan kolom yang dimigrasikan di instans tujuan. Secara default, DTS default policy dipilih. Anda juga dapat memilih kebijakan yang konsisten dengan database sumber atau tujuan. Untuk informasi selengkapnya, lihat Kebijakan sensitivitas huruf besar/kecil untuk nama objek tujuan.
Source Objects
Di kotak Source Objects, klik objek yang akan dimigrasikan, lalu klik
untuk memindahkannya ke kotak Selected Objects.CatatanPilih tabel sebagai objek migrasi. Jika memilih seluruh database, perubahan seperti menambah atau menghapus tabel di database tersebut tidak dimigrasikan ke database tujuan.
Selected Objects
-
Untuk mengubah nama satu objek migrasi di instans target, klik kanan objek di kotak Selected Objects. Untuk informasi selengkapnya, lihat Pemetaan nama skema, tabel, dan kolom individual.
-
Untuk mengubah nama beberapa objek migrasi di instans target, klik Selected Objects di pojok kanan atas kotak Batch Edit. Untuk informasi selengkapnya, lihat Pemetaan nama skema, tabel, dan kolom ganda.
Catatan-
Hanya garis bawah (_) yang didukung sebagai karakter khusus dalam nama indeks dan tipe.
-
Jika menggunakan fitur pemetaan nama objek, objek lain yang bergantung pada objek yang diganti namanya mungkin gagal dimigrasikan.
-
Untuk memfilter data menggunakan kondisi WHERE, klik kanan tabel yang akan dimigrasikan di kotak Selected Objects, lalu tentukan kondisi filter di kotak dialog yang muncul. Untuk informasi selengkapnya, lihat Atur kondisi filter.
-
Untuk memilih operasi SQL yang akan dimigrasikan pada level database atau tabel, klik kanan objek migrasi di kotak Selected Objects dan pilih operasi SQL yang diinginkan di kotak dialog yang muncul.
-
-
Klik Next: Advanced Settings untuk mengonfigurasi parameter lanjutan.
Parameter
Deskripsi
Dedicated Cluster for Task Scheduling
Secara default, DTS menjadwalkan tugas pada klaster bersama. Anda tidak perlu memilihnya. Jika menginginkan tugas yang lebih stabil, Anda dapat membeli klaster khusus untuk menjalankan tugas migrasi DTS.
Retry Time for Failed Connections
Setelah tugas migrasi dimulai, jika koneksi ke database sumber atau tujuan gagal, DTS melaporkan kesalahan dan segera mencoba menghubungkan kembali. Durasi percobaan ulang default adalah 720 menit. Anda dapat menyesuaikan durasi percobaan ulang ke nilai antara 10 hingga 1440 menit. Kami menyarankan Anda mengatur durasi lebih dari 30 menit. Jika DTS berhasil terhubung kembali ke database sumber dan tujuan dalam durasi yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal.
Catatan-
Untuk beberapa instans DTS yang berbagi sumber atau tujuan yang sama, waktu percobaan ulang jaringan ditentukan oleh pengaturan tugas yang terakhir dibuat.
-
Karena Anda dikenai biaya untuk tugas selama periode percobaan ulang koneksi, kami menyarankan Anda menyesuaikan waktu percobaan ulang berdasarkan kebutuhan bisnis Anda, atau segera melepas instans DTS setelah instans database sumber dan tujuan dilepas.
Retry Time for Other Issues
Setelah tugas migrasi dimulai, jika terjadi masalah non-konektivitas, seperti pengecualian eksekusi DDL atau DML, di database sumber atau tujuan, DTS melaporkan kesalahan dan segera mencoba mengulangi operasi tersebut. Durasi percobaan ulang default adalah 10 menit. Anda dapat menyesuaikan durasi percobaan ulang ke nilai antara 1 hingga 1440 menit. Kami menyarankan Anda mengatur durasi lebih dari 10 menit. Jika operasi terkait berhasil dalam durasi percobaan ulang yang ditentukan, tugas migrasi akan dilanjutkan secara otomatis. Jika tidak, tugas gagal.
PentingNilai Retry Time for Other Issues harus lebih kecil daripada nilai Retry Time for Failed Connections.
Enable Throttling for Full Data Migration
Selama migrasi penuh, DTS mengonsumsi sumber daya baca dan tulis di database sumber dan tujuan, yang dapat meningkatkan beban database. Jika diperlukan, Anda dapat mengaktifkan pembatasan kecepatan untuk tugas migrasi penuh. Anda dapat mengatur Queries per second (QPS) to the source database, RPS of Full Data Migration, dan Data migration speed for full migration (MB/s) untuk mengurangi beban di database tujuan.
Catatan-
Item konfigurasi ini tersedia hanya jika Anda memilih Full Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi penuh setelah instans migrasi berjalan.
Enable Throttling for Incremental Data Migration
Jika diperlukan, Anda juga dapat memilih untuk mengatur batas kecepatan untuk tugas migrasi inkremental. Anda dapat mengatur RPS of Incremental Data Migration dan Data migration speed for incremental migration (MB/s) untuk mengurangi beban di database tujuan.
Catatan-
Item konfigurasi ini tersedia hanya jika Anda memilih Incremental Data Migration untuk Migration Types.
-
Anda juga dapat menyesuaikan kecepatan migrasi inkremental setelah instans migrasi berjalan.
Environment Tag
Anda dapat memilih tag lingkungan untuk mengidentifikasi instans berdasarkan kebutuhan bisnis Anda. Dalam contoh ini, Anda tidak perlu mengonfigurasi parameter ini.
Shard Configuration
Atur jumlah shard utama dan shard replika berdasarkan konfigurasi shard maksimum indeks di instans tujuan Elasticsearch.
String Index
Tentukan cara string yang dimigrasikan ke instans tujuan Elasticsearch diindeks.
-
analyzed: String dianalisis sebelum diindeks. Anda juga harus memilih alat analisis tertentu. Untuk informasi selengkapnya tentang tipe dan fungsi alat analisis, lihat Analyzers.
-
not analyzed: String diindeks dengan nilai aslinya tanpa analisis.
-
no: String tidak diindeks.
Time Zone
Saat DTS memigrasikan tipe data terkait waktu (seperti DATETIME dan TIMESTAMP) ke instans tujuan Elasticsearch, Anda dapat memilih zona waktu yang akan disertakan.
CatatanJika tipe data waktu tersebut di instans tujuan tidak memerlukan zona waktu, Anda harus mengatur tipe dokumen (type) untuk tipe data tersebut di instans tujuan terlebih dahulu.
DOCID
Secara default, DOCID adalah kunci utama tabel. Jika tabel tidak memiliki kunci utama, DOCID adalah kolom ID yang dihasilkan secara otomatis oleh Elasticsearch.
Configure ETL
Berdasarkan kebutuhan bisnis Anda, pilih apakah akan mengonfigurasi fitur ETL untuk memproses data.
-
Yes: Mengonfigurasi fitur ETL. Anda juga harus memasukkan pernyataan pemrosesan data di kotak teks.
-
No: Tidak mengonfigurasi fitur ETL.
Monitoring and Alerting
Pilih apakah akan mengatur peringatan dan menerima pemberitahuan peringatan berdasarkan kebutuhan bisnis Anda.
-
No: Tidak mengatur peringatan.
-
Yes: Konfigurasikan peringatan dengan mengatur ambang batas peringatan dan pemberitahuan peringatan. Jika migrasi gagal atau latensi melebihi ambang batas, sistem akan mengirim pemberitahuan peringatan.
-
-
Setelah menyelesaikan konfigurasi di atas, klik Next: Configure Database and Table Fields di bagian bawah halaman untuk mengonfigurasi kebijakan _routing dan nilai _id untuk tabel yang akan dimigrasikan ke instans tujuan Elasticsearch.
Jenis
Deskripsi
Set _routing
Anda dapat menggunakan _routing untuk mengarahkan dokumen ke shard tertentu di instans Elasticsearch tujuan. Untuk informasi selengkapnya, lihat _routing.
-
Pilih Yes untuk menentukan kolom kustom untuk routing.
-
Pilih No untuk menggunakan nilai _id untuk routing.
CatatanJika instans Elasticsearch tujuan adalah versi 7.x, Anda harus memilih No.
_routing Column
Pilih kolom yang digunakan untuk routing.
CatatanParameter ini diperlukan hanya jika Anda memilih Yes untuk Set _routing.
Value of _id
Pilih kolom yang digunakan sebagai ID dokumen.
-
-
-
Simpan tugas dan jalankan pemeriksaan awal.
-
Untuk melihat parameter konfigurasi instans ini saat Anda memanggil Operasi API, arahkan kursor ke tombol Next: Save Task Settings and Precheck dan klik Preview OpenAPI parameters di gelembung yang muncul.
-
Jika tidak perlu melihat atau telah selesai melihat parameter API, klik Next: Save Task Settings and Precheck di bagian bawah halaman.
Catatan-
Sebelum tugas migrasi dimulai, DTS melakukan pemeriksaan awal. Tugas hanya dimulai setelah lolos pemeriksaan awal.
-
Jika pemeriksaan awal gagal, klik View Details di sebelah item pemeriksaan yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan kembali pemeriksaan awal.
-
Jika peringatan dilaporkan selama pemeriksaan awal:
-
Untuk item pemeriksaan yang tidak dapat diabaikan, klik View Details di sebelah item yang gagal, perbaiki masalah berdasarkan petunjuk, lalu jalankan kembali pemeriksaan awal.
-
Untuk item pemeriksaan yang dapat diabaikan, Anda dapat mengklik Confirm Alert Details, Ignore, OK, dan Precheck Again untuk melewati item peringatan dan menjalankan kembali pemeriksaan awal. Jika memilih untuk mengabaikan peringatan, hal ini dapat menyebabkan masalah seperti inkonsistensi data dan menimbulkan risiko bagi bisnis Anda.
-
-
-
Beli instans.
-
Saat Success Rate mencapai 100%, klik Next: Purchase Instance.
-
Di halaman Purchase, pilih spesifikasi tautan untuk instans migrasi data. Untuk informasi selengkapnya, lihat tabel berikut.
Kategori
Parameter
Deskripsi
New Instance Class
Resource Group Settings
Pilih kelompok sumber daya tempat instans tersebut berada. Nilai default adalah kelompok sumber daya default. Untuk informasi selengkapnya, lihat Apa itu Resource Management?
Instance Class
DTS menyediakan spesifikasi migrasi dengan tingkat kinerja berbeda. Spesifikasi tautan memengaruhi kecepatan migrasi. Anda dapat memilih spesifikasi berdasarkan skenario bisnis Anda. Untuk informasi selengkapnya, lihat Spesifikasi tautan migrasi data.
-
Setelah konfigurasi selesai, baca dan pilih Data Transmission Service (Pay-as-you-go) Service Terms.
-
Klik Buy and Start. Di kotak dialog OK yang muncul, klik OK.
Anda dapat melihat progres tugas migrasi di halaman daftar Data Migration Tasks.
Catatan-
Jika tugas migrasi tidak mencakup migrasi inkremental, tugas akan berhenti secara otomatis setelah migrasi penuh selesai. Setelah tugas berhenti, Status-nya berubah menjadi Completed.
-
Jika tugas migrasi mencakup migrasi inkremental, tugas tidak berhenti secara otomatis. Tugas migrasi inkremental terus berjalan. Selama tugas migrasi inkremental berjalan, Status tugas adalah Running.
-
-