Topik ini menjelaskan cara menambahkan tabel ke instans Retrieval Engine Edition menggunakan sumber data Data Lake Formation (DLF).
Prasyarat
-
Anda memahami Data Lake Formation.
-
Anda telah mengonfigurasi catalog ID, database, dan table Data Lake Formation yang akan digunakan untuk konfigurasi sinkronisasi data.
Tambahkan sumber data Data Lake Formation
-
Pada halaman Instance Details > Table Management, klik Add Table.
-
Pada langkah Basic Table Information, masukkan Table name (misalnya,
dlf_table), atur Number of data shards (default: 1) dan Number of resources for data updates (default: 2), lalu klik Next. Jumlah sumber daya untuk pembaruan data menentukan tingkat konkurensi dalam mengonsumsi data real-time guna meningkatkan TPS.
-
Table name: Anda dapat menentukan nama kustom.
-
Number of data shards: Tentukan bilangan bulat positif hingga 256. Nilainya tidak boleh melebihi tiga kali jumlah node data dalam instans Anda.
-
Number of resources for data updates: Secara default, setiap tabel mencakup dua sumber daya pembaruan gratis (masing-masing 4 vCPU dan memori 8 GB). Anda akan dikenai biaya untuk sumber daya yang melebihi kuota gratis. Untuk informasi selengkapnya, lihat ikhtisar penagihan Retrieval Engine Edition.
-
Pada langkah Data synchronization, konfigurasikan sumber data. Setelah konfigurasi berhasil divalidasi, klik Next.
Untuk Full data source, pilih Data Lake Formation (DLF), lalu masukkan catalog ID, database, dan table.
-
Full data source: Sumber untuk impor data lengkap awal. Pilih Data Lake Formation (DLF).
-
Catalog ID: ID katalog Data Lake Formation yang berisi data Anda.
-
Database: Database dalam katalog yang berisi tabel Anda.
-
Table: Tabel dalam database yang ingin Anda sinkronkan.
Catatan-
Untuk menggunakan DLF sebagai sumber data pada instans yang sudah ada, Anda harus terlebih dahulu melakukan upgrade versi offline-nya.
-
Saat ini, hanya katalog bertipe Paimon yang didukung.
-
Tabel Paimon dengan primary key mendukung operasi tambah, perbarui, hapus, dan kueri. Tabel Paimon tipe append-only hanya mendukung operasi tulis dan tidak mengizinkan modifikasi atau penghapusan data.
-
-
Konfigurasikan skema indeks dalam mode Form Mode atau Developer Mode, lalu klik Next.
Pada bagian Field Settings, definisikan bidang data Anda, seperti bidang
id(Tipe: INT8, sebagai primary key), bidangname(Tipe: STRING), dan bidangemail(Tipe: STRING). Anda juga dapat mengatur kompresi data dan alat analisis di sini. Pada bagian Index Settings, definisikan indeks pencarian Anda. Misalnya, tambahkan indeks bernamaphone(Tipe: STRING) berdasarkan bidangname. -
Setelah Anda mengonfirmasi pembuatan, sistem akan secara otomatis membuat tabel tersebut. Anda dapat memantau progres pembuatannya di halaman Change history. Ketika status tabel berubah menjadi In Use, Anda dapat menggunakan halaman Query test untuk menguji kueri Anda.
Perhatian
Ketika data baru ditulis ke tabel Paimon di DLF, OpenSearch secara otomatis memicu pengindeksan real-time. Namun, penulisan data secara manual melalui API dapat menyebabkan ketidakkonsistenan data, sehingga perlu dilakukan dengan hati-hati.