Topik ini mencantumkan parameter WITH untuk Ververica Runtime (VVR) versi 11 dan yang lebih baru.
Penghentian parameter
Untuk meningkatkan arsitektur dan pemeliharaan sistem, beberapa parameter lama dari VVR 8 dan versi sebelumnya kini telah dihentikan. Tabel berikut mencantumkan parameter tersebut beserta penggantinya.
Dengan parameter
Umum
Parameter | Deskripsi | Tipe | Wajib | Default | Keterangan |
connector | Tipe tabel. | String | Ya | — | Nilainya harus |
dbname | Nama database. | String | Ya | — | Anda dapat menghubungkan ke gudang virtual tertentu dengan menambahkan sufiks ke nama database. Misalnya, untuk menghubungkan tabel dimensi ke gudang virtual |
tablename | Nama tabel. | String | Ya | — | Jika skema bukan |
username |
| String | Ya | — |
Penting Untuk mencegah Informasi AccessKey Anda terpapar, kami menyarankan Anda menggunakan variabel namespace untuk menyimpan nilai AccessKey Anda. Untuk informasi selengkapnya, lihat Variabel namespace. |
password |
| String | Ya | — | |
endpoint | Titik akhir layanan Hologres. | String | Ya | — | Untuk informasi selengkapnya, lihat Titik akhir. |
connection.pool.size | Ukuran kolam koneksi JDBC yang dibuat untuk satu tabel Flink dalam satu task. | Integer | Tidak | 5 | Jika performa job tidak mencukupi, pertimbangkan untuk menambah ukuran kolam koneksi. Ukuran kolam sebanding dengan throughput data. Parameter ini hanya memengaruhi tabel dimensi dan tabel sink. |
connection.pool.name | Tabel dalam TaskManager yang sama dapat berbagi kolam koneksi dengan menggunakan nama yang sama. | String | Tidak |
| Nilai default adalah Sebagai contoh, jika sebuah job berisi lima tabel Hologres (tabel dimensi A dan B, serta tabel sink C, D, dan E), Anda dapat mengonfigurasi tabel A dan B untuk menggunakan Catatan
|
connection.fixed.enabled | Menentukan apakah akan menggunakan mode koneksi ringan. | Boolean | Tidak | — | Hologres memiliki batas koneksi. Mulai dari Hologres V2.1, penulisan real-time mendukung koneksi ringan yang tidak tunduk pada batas ini. Catatan
|
connection.max-idle-ms | Timeout idle untuk koneksi JDBC, dalam milidetik. | Long | Tidak | 60000 | Jika koneksi tetap idle lebih lama dari waktu ini, koneksi tersebut akan ditutup. Koneksi baru akan dibuat secara otomatis saat diperlukan. |
connection.ssl.mode | Menentukan apakah akan mengaktifkan enkripsi Secure Sockets Layer (SSL) dalam transit dan mode mana yang akan digunakan. | String | Tidak | disable |
Catatan
|
connection.ssl.root-cert.location | Jalur ke sertifikat CA, diperlukan untuk mode enkripsi berbasis sertifikat. | String | Tidak | — | Jika Catatan Untuk informasi tentang cara mendapatkan sertifikat CA, lihat Unduh sertifikat CA. |
retry-count | Jumlah kali retry operasi write atau query saat koneksi gagal. | Integer | Tidak | 10 | — |
retry-sleep-step-ms | Waktu tunggu inkremental untuk setiap retry, dalam milidetik. | Long | Tidak | 5000 | Sebagai contoh, dengan nilai default 5.000 (5 detik), retry pertama menunggu 5 detik, retry kedua menunggu 10 detik, dan seterusnya. |
meta-cache-ttl-ms | Waktu hidup (TTL) untuk informasi TableSchema yang di-cache secara lokal, dalam milidetik. | Long | Tidak | 600000 | — |
serverless-computing.enabled | Menentukan apakah akan menggunakan sumber daya serverless. | Boolean | Tidak | false | Jika parameter ini diatur ke Catatan
Catatan Kami menyarankan mengaktifkan parameter ini untuk impor atau ekspor data skala besar agar tidak memengaruhi kueri lain pada instans Hologres Anda. Untuk informasi selengkapnya, lihat Ikhtisar. |
Parameter tabel sumber
Parameter | Deskripsi | Tipe | Wajib | Default | Keterangan |
source.binlog | Menentukan apakah akan mengonsumsi data binlog. | Boolean | Tidak | true |
|
source.binlog.read-mode | Menentukan mode baca. | ENUM | Tidak | AUTO |
Catatan Logika pemilihan untuk mode AUTO adalah sebagai berikut:
|
source.binlog.change-log-mode | Menentukan tipe ChangeLog yang didukung oleh tabel sumber CDC. | ENUM | Tidak | UPSERT |
Catatan Jika pipeline downstream mencakup operator retraction (misalnya, menggunakan |
source.binlog.startup-mode | Menentukan mode konsumsi untuk data binlog. | ENUM | Tidak | INITIAL |
Catatan
|
source.binlog.batch-size | Menentukan jumlah baris yang dibaca per batch dari binlog. | Integer | Tidak | 512 | Tidak berlaku. |
source.binlog.request-timeout-ms | Menentukan timeout untuk membaca data binlog. | Long | Tidak | 300000 | Unit: milidetik. Catatan Timeout mungkin mengindikasikan tekanan balik yang disebabkan oleh operator downstream yang memproses data tabel sumber terlalu lambat. |
source.binlog.project-columns.enabled | Menentukan apakah hanya akan membaca bidang yang ditentukan dalam tabel pengguna saat membaca data binlog. | Boolean | Tidak | None | Bidang yang ditentukan adalah bidang yang dideklarasikan dalam pernyataan Catatan Parameter ini hanya didukung di VVR 11.3 dan yang lebih baru serta instans Hologres V3.2 dan yang lebih baru. Biasanya Anda tidak perlu mengonfigurasi parameter ini. Connector mengaktifkannya secara default jika persyaratan versi terpenuhi. |
source.binlog.compression.enabled | Menentukan apakah akan mengaktifkan kompresi data selama transit saat membaca data binlog. | Boolean | Tidak | None | Saat mengonsumsi binlog, server mengembalikan aliran byte yang dikompresi dengan algoritma LZ4. Ini meningkatkan performa baca dan mengurangi penggunaan bandwidth. Catatan Parameter ini hanya didukung di VVR 11.3 dan yang lebih baru serta instans Hologres V3.2 dan yang lebih baru. Biasanya Anda tidak perlu mengonfigurasi parameter ini. Connector mengaktifkannya secara default jika persyaratan versi terpenuhi. |
source.binlog.partition-binlog-mode | Menentukan mode konsumsi binlog untuk tabel partisi. | Enum | Tidak | DISABLE |
|
source.binlog.partition-binlog-lateness-timeout-minutes | Dalam mode DYNAMIC, menentukan timeout lateness maksimum saat mengonsumsi tabel partisi. | Integer | Tidak | 60 |
Sebagai contoh, jika partisi dinamis berdasarkan HARI, untuk partisi
Jika partisi berdasarkan hari, nilai maksimum adalah 24 * 60 = 1440 menit. Dalam mode DYNAMIC, connector biasanya hanya mengonsumsi satu partisi dalam satu waktu, tetapi mungkin mengonsumsi dua partisi secara simultan selama periode lateness. |
source.binlog.partition-values-to-read | Dalam mode STATIC, menentukan partisi yang akan dikonsumsi. Gunakan koma (,) untuk memisahkan nilai partisi. | String | Tidak | None |
|
startTime | Menentukan waktu mulai untuk offset konsumsi. | String | Tidak | None | Format: yyyy-MM-dd hh:mm:ss. Jika parameter ini tidak diatur dan job tidak dilanjutkan dari state yang disimpan, konsumsi dimulai dari binlog paling awal. |
source.scan.fetch-size | Menentukan ukuran batch untuk pembacaan batch. | Integer | Tidak | 512 | Tidak berlaku. |
source.scan.timeout-seconds | Menentukan timeout untuk pembacaan batch. | Integer | Tidak | 60 | Unit: detik. |
source.scan.filter-push-down.enabled | Menentukan apakah akan mendorong filter ke bawah selama pembacaan batch. | Boolean | Tidak | false |
Catatan
|
source.binlog.filter-push-down.enabled | Menentukan apakah akan mendorong filter ke bawah selama konsumsi binlog. | Boolean | Tidak | false |
Catatan
|
scan.prefer.physical-column.over.metadata-column | Menentukan apakah akan memprioritaskan membaca data dari kolom fisik ketika kolom tersebut memiliki nama yang sama dengan kolom metadata. | Boolean | Tidak | false | Parameter ini hanya didukung di VVR 11.5 dan yang lebih baru. Versi sebelumnya selalu memprioritaskan membaca data dari kolom metadata. |
Parameter tabel sink
Parameter | Deskripsi | Tipe | Wajib | Default | Keterangan |
sink.write-mode | Mode penulisan data. | ENUM | Tidak | INSERT |
Catatan
|
sink.on-conflict-action | Kebijakan untuk menangani konflik kunci primer. | ENUM | Tidak | INSERT_OR_UPDATE |
|
sink.create-missing-partition | Menentukan apakah akan secara otomatis membuat partisi berdasarkan nilai partisi jika partisi yang sesuai tidak ada saat menulis ke tabel partisi. | Boolean | Tidak | false |
|
sink.delete-strategy | Kebijakan untuk menangani pesan retraction. | String | Tidak | CHANGELOG_STANDARD |
Catatan Mengaktifkan opsi |
sink.ignore-null-when-update.enabled | Saat | Boolean | Tidak | false |
Catatan Parameter ini hanya didukung ketika |
sink.ignore-null-when-update-by-expr.enabled | Saat | Boolean | Tidak | false | Metode ini menawarkan performa lebih baik daripada
Catatan
|
sink.default-for-not-null-column.enabled | Menentukan apakah connector menyediakan nilai default ketika null ditulis ke kolom | Boolean | Tidak | true |
Catatan Parameter ini hanya didukung ketika |
sink.remove-u0000-in-text.enabled | Menentukan apakah connector menghapus karakter ilegal | Boolean | Tidak | true |
|
sink.partial-insert.enabled | Menentukan apakah hanya akan memasukkan atau memperbarui bidang yang didefinisikan dalam pernyataan INSERT. | Boolean | Tidak | false |
Catatan
|
sink.deduplication.enabled | Menentukan apakah akan melakukan deduplikasi selama batching. | Boolean | Tidak | true |
Catatan
|
sink.aggressive-flush.enabled | Menentukan apakah akan mengaktifkan mode flush agresif. | Boolean | Tidak | false | Jika diatur ke true, connector secara paksa melakukan flush batch ketika koneksi idle, bahkan jika batch belum mencapai ukuran yang dikonfigurasi. Ini mengurangi latensi penulisan data selama periode traffic rendah. Catatan Parameter ini hanya didukung ketika |
sink.insert.check-and-put.column | Mengaktifkan update kondisional dan menentukan kolom yang akan diperiksa. | String | Tidak | None | Nilai parameter ini harus merupakan nama kolom yang ada di tabel Hologres. Penting
|
sink.insert.check-and-put.operator | Operator perbandingan untuk operasi update kondisional. | String | Tidak | GREATER | Membandingkan kolom pemeriksaan dari catatan masuk dengan nilai yang ada di tabel. Update dilanjutkan jika kondisi terpenuhi. Operator yang didukung adalah: |
sink.insert.check-and-put.null-as | Selama update kondisional, memperlakukan nilai null dalam data yang ada sebagai nilai yang ditentukan oleh parameter ini. | String | Tidak | None | Di PostgreSQL, setiap perbandingan dengan |
sink.insert.batch-size | Dalam mode | Integer | Tidak | 512 | Connector memicu penulisan ketika salah satu dari ambang batas |
sink.insert.batch-byte-size | Dalam mode | Long | Tidak | 2097152 (2 MB) | |
sink.insert.flush-interval-ms | Dalam mode | Long | Tidak | 10000 | |
sink.copy.format | Format transmisi data yang digunakan dalam mode COPY. | String | Tidak |
| Format yang didukung untuk mode
Format yang didukung untuk mode Catatan Parameter ini hanya didukung ketika |
sink.insert.conflict-update-set | Ekspresi Hologres yang digunakan untuk memperbarui baris ketika terjadi konflik kunci primer. | String | Tidak | None | Setara dengan Sebagai contoh, jika parameter ini diatur ke
Catatan Parameter ini hanya didukung ketika |
sink.insert.conflict-where | Kondisi filter Hologres untuk memicu update selama konflik kunci primer. | String | Tidak | None | Setara dengan Sebagai contoh, jika parameter ini diatur ke Catatan
|
Parameter tabel dimensi
Parameter | Deskripsi | Tipe | Wajib | Default | Catatan |
lookup.read.batch-size | Jumlah maksimum catatan untuk batching dalam kueri titik pada tabel dimensi Hologres. | Integer | Tidak | 256 | None |
lookup.read.timeout-ms | Timeout untuk kueri titik pada tabel dimensi. | Long | Tidak | 0, yang berarti tidak ada timeout. | None |
lookup.read.column-table.enabled | Menentukan apakah akan menggunakan tabel berorientasi kolom sebagai tabel dimensi. | Boolean | Tidak | false | Tabel berorientasi kolom berperforma buruk untuk kueri titik. Kami menyarankan menggunakan tabel berorientasi baris atau tabel hybrid baris-kolom sebagai tabel dimensi. Peringatan akan dicatat jika parameter ini diaktifkan untuk tabel berorientasi kolom. |
lookup.insert-if-not-exists | Menentukan apakah akan memasukkan catatan jika catatan tersebut tidak ada. | Boolean | Tidak | false | Jika kueri titik tidak menemukan kecocokan untuk catatan saat ini di tabel dimensi, connector memasukkan catatan tersebut. |
cache | Kebijakan cache. | String | Tidak | None | Hologres hanya mendukung dua kebijakan cache: None dan LRU. |
cacheSize | Ukuran cache, dalam baris. | Integer | Tidak | 10000 | Setelah Anda memilih kebijakan cache LRU, Anda dapat mengatur ukuran cache. Satuannya adalah entri. |
cacheTTLMs | Waktu hidup cache (TTL), dalam milidetik. | Long | Tidak | Lihat Catatan. | Satuannya adalah milidetik. Nilai default cacheTTLMs bergantung pada konfigurasi cache:
|
cacheEmpty | Menentukan apakah akan menyimpan hasil join kosong dalam cache. | Boolean | Tidak | true |
Penting
|
async | Menentukan apakah akan mengembalikan hasil secara asinkron. | Boolean | Tidak | false |
Catatan
|
lookup.async | Menentukan apakah akan mengaktifkan kueri asinkron untuk tabel dimensi. | Boolean | Tidak | true |
|
lookup.filter-push-down.enabled | Menentukan apakah akan mendorong kondisi filter tabel dimensi ke server Hologres. | Boolean | Tidak | false | Fitur ini hanya mendukung operasi perbandingan antara kolom dan konstanta. Connector hanya mendorong operator kesetaraan (=) dan perbandingan (<, <=, >, >=). Catatan Parameter ini hanya didukung di Realtime Compute Engine VVR 11.4 dan yang lebih baru. |