Topik ini mencantumkan parameter WITH untuk Ververica Runtime (VVR) versi 11 dan yang lebih baru.
Penghapusan parameter
Untuk meningkatkan arsitektur dan pemeliharaan sistem, beberapa parameter lama dari VVR 8 dan versi sebelumnya kini tidak lagi digunakan. Tabel berikut mencantumkan parameter tersebut beserta penggantinya.
Parameter WITH
Umum
|
Parameter |
Description |
Type |
Required |
Default |
Remarks |
|
connector |
Tipe tabel. |
String |
Yes |
— |
Nilainya harus |
|
dbname |
Nama database. |
String |
Yes |
— |
Anda dapat terhubung ke gudang virtual tertentu dengan menambahkan sufiks ke nama database. Misalnya, untuk menghubungkan tabel dimensi ke gudang virtual |
|
tablename |
Nama tabel. |
String |
Yes |
— |
Jika skema bukan |
|
username |
|
String |
Yes |
— |
Penting
Untuk mencegah informasi AccessKey Anda terpapar, kami merekomendasikan agar Anda menggunakan variabel namespace untuk menyimpan nilai AccessKey Anda. Untuk informasi selengkapnya, lihat Namespace variables. |
|
password |
|
String |
Yes |
— |
|
|
endpoint |
Titik akhir layanan Hologres. |
String |
Yes |
— |
Untuk informasi selengkapnya, lihat Endpoints. |
|
connection.pool.size |
Ukuran kolam koneksi JDBC yang dibuat untuk satu tabel Flink dalam satu task. |
Integer |
No |
5 |
Jika performa job tidak mencukupi, pertimbangkan untuk menambah ukuran kolam koneksi. Ukuran pool sebanding dengan throughput data. Parameter ini hanya memengaruhi tabel dimensi dan tabel sink. |
|
connection.pool.name |
Tabel dalam TaskManager yang sama dapat berbagi kolam koneksi dengan menggunakan nama yang sama. |
String |
No |
|
Nilai default adalah Misalnya, jika sebuah job berisi lima tabel Hologres (tabel dimensi A dan B, serta tabel sink C, D, dan E), Anda dapat mengonfigurasi tabel A dan B untuk menggunakan Catatan
|
|
connection.fixed.enabled |
Menentukan apakah akan menggunakan mode koneksi ringan. |
Boolean |
No |
— |
Hologres memiliki batas koneksi. Mulai dari Hologres V2.1, penulisan real-time mendukung koneksi ringan yang tidak tunduk pada batas ini. Catatan
|
|
connection.max-idle-ms |
Timeout idle untuk koneksi JDBC, dalam milidetik. |
Long |
No |
60000 |
Jika koneksi tetap idle lebih lama dari waktu ini, koneksi tersebut akan ditutup. Koneksi baru akan dibuat secara otomatis saat diperlukan. |
|
connection.ssl.mode |
Menentukan apakah akan mengaktifkan enkripsi Secure Sockets Layer (SSL) dalam transit dan mode mana yang akan digunakan. |
String |
No |
disable |
Catatan
|
|
connection.ssl.root-cert.location |
Jalur ke sertifikat CA, diperlukan untuk mode enkripsi berbasis sertifikat. |
String |
No |
— |
Jika Catatan
Untuk informasi tentang cara mendapatkan sertifikat CA, lihat Download the CA certificate. |
|
retry-count |
Jumlah kali untuk mencoba ulang operasi write atau query saat koneksi gagal. |
Integer |
No |
10 |
— |
|
retry-sleep-step-ms |
Waktu tunggu bertahap untuk setiap retry, dalam milidetik. |
Long |
No |
5000 |
Misalnya, dengan nilai default 5.000 (5 detik), retry pertama menunggu selama 5 detik, retry kedua selama 10 detik, dan seterusnya. |
|
meta-cache-ttl-ms |
Waktu hidup (TTL) untuk informasi TableSchema yang di-cache secara lokal, dalam milidetik. |
Long |
No |
600000 |
Satuan: milidetik. |
|
serverless-computing.enabled |
Menentukan apakah akan menggunakan sumber daya serverless. |
Boolean |
No |
false |
Jika parameter ini diatur ke Catatan
Catatan
Kami merekomendasikan mengaktifkan parameter ini untuk impor atau ekspor data skala besar untuk menghindari dampak terhadap kueri lain pada instans Hologres Anda. Untuk informasi selengkapnya, lihat Overview. |
Parameter tabel sumber
|
Parameter |
Description |
Type |
Required |
Default |
Remarks |
|
source.binlog |
Menentukan apakah akan mengonsumsi data binlog. |
Boolean |
No |
true |
|
|
source.binlog.read-mode |
Menentukan mode baca. |
ENUM |
No |
AUTO |
Catatan
Logika pemilihan untuk mode AUTO adalah sebagai berikut:
|
|
source.binlog.change-log-mode |
Menentukan tipe ChangeLog yang didukung oleh tabel sumber CDC. |
ENUM |
No |
UPSERT |
Catatan
Jika pipeline downstream mencakup operator retraction (misalnya, menggunakan |
|
source.binlog.startup-mode |
Menentukan mode konsumsi data binlog. |
ENUM |
No |
INITIAL |
Catatan
|
|
source.binlog.batch-size |
Menentukan jumlah baris yang dibaca per batch dari binlog. |
Integer |
No |
512 |
Tidak berlaku. |
|
source.binlog.request-timeout-ms |
Menentukan timeout untuk membaca data binlog. |
Long |
No |
300000 |
Satuan: milidetik. Catatan
Timeout mungkin mengindikasikan tekanan balik yang disebabkan oleh operator downstream yang memproses data tabel sumber terlalu lambat. |
|
source.binlog.project-columns.enabled |
Menentukan apakah hanya akan membaca field yang ditentukan dalam tabel pengguna saat membaca data binlog. |
Boolean |
No |
None |
Field yang ditentukan adalah field yang dideklarasikan dalam pernyataan Catatan
Parameter ini hanya didukung di VVR 11.3 dan yang lebih baru serta instans Hologres V3.2 dan yang lebih baru. Biasanya Anda tidak perlu mengonfigurasi parameter ini. Connector mengaktifkannya secara default jika persyaratan versi terpenuhi. |
|
source.binlog.compression.enabled |
Menentukan apakah akan mengaktifkan kompresi data selama transit saat membaca data binlog. |
Boolean |
No |
None |
Saat mengonsumsi binlog, server mengembalikan aliran byte yang dikompresi dengan algoritma LZ4. Ini meningkatkan performa baca dan mengurangi penggunaan bandwidth. Catatan
Parameter ini hanya didukung di VVR 11.3 dan yang lebih baru serta instans Hologres V3.2 dan yang lebih baru. Biasanya Anda tidak perlu mengonfigurasi parameter ini. Connector mengaktifkannya secara default jika persyaratan versi terpenuhi. |
|
source.binlog.partition-binlog-mode |
Menentukan mode konsumsi binlog untuk tabel partisi. |
Enum |
No |
DISABLE |
|
|
source.binlog.partition-binlog-lateness-timeout-minutes |
Dalam mode DYNAMIC, menentukan timeout keterlambatan maksimum saat mengonsumsi tabel partisi. |
Integer |
No |
60 |
Misalnya, jika dynamic partitioning berdasarkan HARI, untuk partisi
Jika partisi berdasarkan hari, nilai maksimum adalah 24 * 60 = 1440 menit. Dalam mode DYNAMIC, connector biasanya hanya mengonsumsi satu partisi dalam satu waktu, tetapi mungkin mengonsumsi dua partisi secara simultan selama periode keterlambatan. |
|
source.binlog.partition-values-to-read |
Dalam mode STATIC, menentukan partisi yang akan dikonsumsi. Gunakan koma (,) untuk memisahkan nilai partisi. |
String |
No |
None |
|
|
startTime |
Menentukan waktu mulai untuk offset konsumsi. |
String |
No |
None |
Format: yyyy-MM-dd hh:mm:ss. Jika parameter ini tidak diatur dan job tidak dilanjutkan dari state yang disimpan, konsumsi dimulai dari binlog paling awal. |
|
source.scan.fetch-size |
Menentukan ukuran batch untuk baca batch. |
Integer |
No |
512 |
Tidak berlaku. |
|
source.scan.timeout-seconds |
Menentukan timeout untuk baca batch. |
Integer |
No |
60 |
Unit: detik. |
|
source.scan.filter-push-down.enabled |
Menentukan apakah akan mendorong filter ke bawah selama baca batch. |
Boolean |
No |
false |
Catatan
|
|
source.binlog.filter-push-down.enabled |
Menentukan apakah akan mendorong filter ke bawah selama konsumsi binlog. |
Boolean |
No |
false |
Catatan
|
|
scan.prefer.physical-column.over.metadata-column |
Menentukan apakah akan memprioritaskan membaca data dari kolom fisik saat kolom tersebut memiliki nama yang sama dengan kolom metadata. |
Boolean |
No |
false |
Parameter ini hanya didukung di VVR 11.5 dan yang lebih baru. Versi sebelumnya selalu memprioritaskan membaca data dari kolom metadata. |
Parameter tabel sink
|
Parameter |
Description |
Type |
Required |
Default |
Remarks |
|
sink.write-mode |
Mode penulisan data. |
ENUM |
No |
INSERT |
Catatan
|
|
sink.on-conflict-action |
Kebijakan untuk menangani konflik kunci primer. |
ENUM |
No |
INSERT_OR_UPDATE |
|
|
sink.create-missing-partition |
Menentukan apakah akan membuat partisi secara otomatis berdasarkan nilai partisi jika partisi yang cocok tidak ada saat menulis ke tabel partisi. |
Boolean |
No |
false |
|
|
sink.delete-strategy |
Kebijakan untuk menangani pesan retraction. |
String |
No |
CHANGELOG_STANDARD |
Catatan
Mengaktifkan opsi |
|
sink.ignore-null-when-update.enabled |
Saat |
Boolean |
No |
false |
Catatan
Parameter ini hanya didukung saat |
|
sink.ignore-null-when-update-by-expr.enabled |
Saat |
Boolean |
No |
false |
Metode ini menawarkan performa lebih baik daripada
Catatan
|
|
sink.ignore-null-when-update.use-builtin.enabled |
Apakah akan menggunakan metode bawaan SDK Hologres saat sink.ignore-null-when-update.enabled atau sink.ignore-null-when-update-by-expr.enabled diaktifkan. |
Boolean |
No |
false |
Performa setara saat sink.ignore-null-when-update.enabled aktif. Catatan
|
|
sink.default-for-not-null-column.enabled |
Menentukan apakah connector menyediakan nilai default saat null ditulis ke kolom |
Boolean |
No |
true |
Catatan
Parameter ini hanya didukung saat |
|
sink.remove-u0000-in-text.enabled |
Menentukan apakah connector menghapus karakter ilegal |
Boolean |
No |
true |
|
|
sink.partial-insert.enabled |
Menentukan apakah hanya akan memasukkan atau memperbarui field yang didefinisikan dalam pernyataan INSERT. |
Boolean |
No |
false |
Catatan
|
|
sink.deduplication.enabled |
Menentukan apakah akan melakukan deduplikasi selama batching. |
Boolean |
No |
true |
Catatan
|
|
sink.aggressive-flush.enabled |
Menentukan apakah akan mengaktifkan mode flush agresif. |
Boolean |
No |
false |
Jika diatur ke true, connector secara paksa melakukan flush batch saat koneksi idle, bahkan jika batch belum mencapai ukuran yang dikonfigurasi. Ini mengurangi latensi penulisan data selama periode trafik rendah. Catatan
Parameter ini hanya didukung saat |
|
sink.insert.check-and-put.column |
Mengaktifkan update kondisional dan menentukan kolom yang akan diperiksa. |
String |
No |
None |
Nilai parameter ini harus berupa nama kolom yang ada di tabel Hologres. Penting
|
|
sink.insert.check-and-put.operator |
Operator perbandingan untuk operasi update kondisional. |
String |
No |
GREATER |
Membandingkan kolom pemeriksaan dari catatan masuk dengan nilai yang ada di tabel. Update dilanjutkan jika kondisi terpenuhi. Operator yang didukung adalah: |
|
sink.insert.check-and-put.null-as |
Selama update kondisional, memperlakukan nilai null dalam data yang ada sebagai nilai yang ditentukan oleh parameter ini. |
String |
No |
None |
Di PostgreSQL, setiap perbandingan dengan |
|
sink.insert.batch-size |
Dalam mode |
Integer |
No |
512 |
Connector memicu penulisan saat salah satu ambang batas |
|
sink.insert.batch-byte-size |
Dalam mode |
Long |
No |
2097152 (2 MB) |
|
|
sink.insert.flush-interval-ms |
Dalam mode |
Long |
No |
10000 |
|
|
sink.copy.format |
Format transmisi data yang digunakan dalam mode COPY. |
String |
No |
|
Format yang didukung untuk mode
Format yang didukung untuk mode Catatan
Parameter ini hanya didukung saat |
|
sink.insert.conflict-update-set |
Ekspresi Hologres yang digunakan untuk memperbarui baris saat terjadi konflik kunci primer. |
String |
No |
None |
Setara dengan Misalnya, jika parameter ini diatur ke
Catatan
Parameter ini hanya didukung saat |
|
sink.insert.conflict-where |
Kondisi filter Hologres untuk memicu update selama konflik kunci primer. |
String |
No |
None |
Setara dengan Misalnya, jika parameter ini diatur ke Catatan
|
Parameter tabel dimensi
|
Parameter |
Description |
Type |
Required |
Default |
Notes |
|
lookup.read.batch-size |
Jumlah maksimum catatan untuk batching dalam kueri titik pada tabel dimensi Hologres. |
Integer |
No |
256 |
None |
|
lookup.read.timeout-ms |
Timeout untuk kueri titik pada tabel dimensi. |
Long |
No |
0, yang berarti tidak ada timeout. |
None |
|
lookup.read.column-table.enabled |
Menentukan apakah akan menggunakan tabel berorientasi kolom sebagai tabel dimensi. |
Boolean |
No |
false |
Tabel berorientasi kolom berkinerja buruk untuk kueri titik. Kami merekomendasikan menggunakan tabel berorientasi baris atau tabel hybrid baris-kolom sebagai tabel dimensi. Peringatan akan dicatat jika parameter ini diaktifkan untuk tabel berorientasi kolom. |
|
lookup.insert-if-not-exists |
Menentukan apakah akan memasukkan catatan jika catatan tersebut tidak ada. |
Boolean |
No |
false |
Jika kueri titik tidak menemukan kecocokan untuk catatan saat ini di tabel dimensi, connector memasukkan catatan tersebut. |
|
cache |
Kebijakan cache. |
String |
No |
None |
Hologres hanya mendukung dua kebijakan cache: None dan LRU. |
|
cacheSize |
Ukuran cache, dalam baris. |
Integer |
No |
10000 |
Setelah Anda memilih kebijakan cache LRU, Anda dapat mengatur ukuran cache. Satuannya adalah entri. |
|
cacheTTLMs |
Waktu hidup cache (TTL), dalam milidetik. |
Long |
No |
Lihat Catatan. |
Satuannya adalah milidetik. Nilai default cacheTTLMs bergantung pada konfigurasi cache:
|
|
cacheEmpty |
Menentukan apakah akan menyimpan hasil join kosong dalam cache. |
Boolean |
No |
true |
Penting
Tentukan apakah akan mengaktifkan switch ini berdasarkan skenario bisnis aktual Anda.
|
|
async |
Menentukan apakah akan mengembalikan hasil secara asinkron. |
Boolean |
No |
false |
Catatan
|
|
lookup.async |
Menentukan apakah akan mengaktifkan kueri asinkron untuk tabel dimensi. |
Boolean |
No |
true |
|
|
lookup.filter-push-down.enabled |
Menentukan apakah akan mendorong kondisi filter tabel dimensi ke server Hologres. |
Boolean |
No |
false |
Fitur ini hanya mendukung operasi perbandingan antara kolom dan konstanta. Connector hanya mendorong operator kesetaraan (=) dan perbandingan (<, <=, >, >=). Catatan
Parameter ini hanya didukung di Realtime Compute Engine VVR 11.4 dan yang lebih baru. |