Cette rubrique répertorie les paramètres WITH pour les versions 11 et ultérieures de Ververica Runtime (VVR).
Obsolescence des paramètres
Afin d'améliorer l'architecture du système et sa maintenance, certains paramètres hérités de VVR 8 et des versions antérieures sont désormais obsolètes. Les tables suivantes présentent ces paramètres ainsi que leurs remplacements.
Paramètres WITH
Général
|
Paramètre |
Description |
Type |
Obligatoire |
Valeur par défaut |
Remarques |
|
connector |
Type de table. |
String |
Oui |
— |
La valeur doit être |
|
dbname |
Nom de la base de données. |
String |
Oui |
— |
Vous pouvez vous connecter à un entrepôt virtuel spécifique en ajoutant un suffixe au nom de la base de données. Par exemple, pour connecter une table de dimension à l'entrepôt virtuel |
|
tablename |
Nom de la table. |
String |
Oui |
— |
Si le schéma n'est pas |
|
username |
|
String |
Oui |
— |
Important
Afin d'éviter toute exposition de vos informations AccessKey, nous vous recommandons d'utiliser des variables de namespace pour stocker vos valeurs AccessKey. Pour plus d'informations, consultez Variables de namespace. |
|
password |
|
String |
Oui |
— |
|
|
endpoint |
Endpoint du service Hologres. |
String |
Oui |
— |
Pour plus d'informations, consultez Endpoints. |
|
connection.pool.size |
Taille du pool de connexions JDBC créé pour une seule table Flink au sein d'une tâche. |
Integer |
Non |
5 |
Si les performances de la tâche sont insuffisantes, envisagez d'augmenter la taille du pool de connexions. Cette taille est proportionnelle au débit de données. Ce paramètre affecte uniquement les tables de dimension et les tables sink. |
|
connection.pool.name |
Les tables d'un même TaskManager peuvent partager un pool de connexions en utilisant le même nom. |
String |
Non |
|
La valeur par défaut est Par exemple, si une tâche contient cinq tables Hologres (tables de dimension A et B, et tables sink C, D et E), vous pouvez configurer les tables A et B pour utiliser Remarque
|
|
connection.fixed.enabled |
Indique s'il faut utiliser le mode de connexion allégé. |
Boolean |
Non |
— |
Hologres impose une limite de connexions. À partir de Hologres V2.1, les écritures en temps réel prennent en charge les connexions allégées qui ne sont pas soumises à cette limite. Remarque
|
|
connection.max-idle-ms |
Délai d'inactivité maximal d'une connexion JDBC, en millisecondes. |
Long |
Non |
60000 |
Si une connexion reste inactive au-delà de cette durée, elle est fermée. Une nouvelle connexion est automatiquement créée lorsque cela est nécessaire. |
|
connection.ssl.mode |
Indique s'il faut activer le chiffrement SSL (Secure Sockets Layer) en transit et quel mode utiliser. |
String |
Non |
disable |
Remarque
|
|
connection.ssl.root-cert.location |
Chemin d'accès au certificat CA, requis pour les modes de chiffrement basés sur certificat. |
String |
Non |
— |
Si Remarque
Pour savoir comment obtenir un certificat CA, consultez Télécharger le certificat CA. |
|
retry-count |
Nombre de tentatives de réessai d'une opération d'écriture ou de requête en cas d'échec de connexion. |
Integer |
Non |
10 |
— |
|
retry-sleep-step-ms |
Temps d'attente incrémentiel pour chaque nouvelle tentative, en millisecondes. |
Long |
Non |
5000 |
Par exemple, avec la valeur par défaut de 5 000 (5 secondes), la première tentative patiente 5 secondes, la seconde 10 secondes, et ainsi de suite. |
|
meta-cache-ttl-ms |
Durée de vie (TTL) des informations TableSchema mises en cache localement, en millisecondes. |
Long |
Non |
600000 |
Unité : millisecondes. |
|
serverless-computing.enabled |
Indique s'il faut utiliser des ressources serverless. |
Boolean |
Non |
false |
Si ce paramètre est défini sur Remarque
Remarque
Nous recommandons d'activer ce paramètre pour les imports ou exports de données à grande échelle afin d'éviter d'impacter les autres requêtes sur votre instance Hologres. Pour plus d'informations, consultez Vue d'ensemble. |
Paramètres de table source
|
Paramètre |
Description |
Type |
Obligatoire |
Valeur par défaut |
Remarques |
|
source.binlog |
Indique s'il faut consommer les données binlog. |
Boolean |
Non |
true |
|
|
source.binlog.read-mode |
Spécifie le mode de lecture. |
ENUM |
Non |
AUTO |
Remarque
La logique de sélection du mode AUTO est la suivante :
|
|
source.binlog.change-log-mode |
Spécifie les types de ChangeLog pris en charge par la table source CDC. |
ENUM |
Non |
UPSERT |
Remarque
Si le pipeline en aval inclut un opérateur de rétractation (par exemple, l'utilisation de |
|
source.binlog.startup-mode |
Spécifie le mode de consommation des données binlog. |
ENUM |
Non |
INITIAL |
Remarque
|
|
source.binlog.batch-size |
Spécifie le nombre de lignes à lire par lot depuis le binlog. |
Integer |
Non |
512 |
Non applicable. |
|
source.binlog.request-timeout-ms |
Spécifie le délai d'expiration pour la lecture des données binlog. |
Long |
Non |
300000 |
Unité : millisecondes. Remarque
Un délai d'expiration peut indiquer une contre-pression causée par un traitement trop lent des données de la table source par les opérateurs en aval. |
|
source.binlog.project-columns.enabled |
Indique s'il faut lire uniquement les champs spécifiés dans la table utilisateur lors de la lecture des données binlog. |
Boolean |
Non |
Aucune |
Les champs spécifiés sont ceux déclarés dans l'instruction Remarque
Ce paramètre est pris en charge uniquement dans VVR 11.3 et versions ultérieures ainsi que dans les instances Hologres V3.2 et versions ultérieures. Vous n'avez généralement pas besoin de configurer ce paramètre. Le connecteur l'active par défaut si les exigences de version sont remplies. |
|
source.binlog.compression.enabled |
Indique s'il faut activer la compression des données en transit lors de la lecture des données binlog. |
Boolean |
Non |
Aucune |
Lors de la consommation du binlog, le serveur renvoie un flux d'octets compressé avec l'algorithme LZ4. Cela améliore les performances de lecture et réduit l'utilisation de la bande passante. Remarque
Ce paramètre est pris en charge uniquement dans VVR 11.3 et versions ultérieures ainsi que dans les instances Hologres V3.2 et versions ultérieures. Vous n'avez généralement pas besoin de configurer ce paramètre. Le connecteur l'active par défaut si les exigences de version sont remplies. |
|
source.binlog.partition-binlog-mode |
Spécifie le mode de consommation du binlog pour une table partitionnée. |
Enum |
Non |
DISABLE |
|
|
source.binlog.partition-binlog-lateness-timeout-minutes |
En mode DYNAMIC, spécifie le délai d'expiration maximal de retard lors de la consommation d'une table partitionnée. |
Integer |
Non |
60 |
Par exemple, si le partitionnement dynamique est défini sur DAY, pour la partition
Si le partitionnement est journalier, la valeur maximale est de 24 * 60 = 1440 minutes. En mode DYNAMIC, le connecteur ne consomme généralement qu'une seule partition à la fois, mais il peut consommer deux partitions simultanément pendant la période de retard. |
|
source.binlog.partition-values-to-read |
En mode STATIC, spécifie les partitions à consommer. Utilisez des virgules (,) pour séparer les valeurs de partition. |
String |
Non |
Aucune |
|
|
startTime |
Spécifie l'heure de début pour l'offset de consommation. |
String |
Non |
Aucune |
Format : yyyy-MM-dd hh:mm:ss. Si ce paramètre n'est pas défini et que la tâche ne reprend pas à partir d'un état sauvegardé, la consommation commence à partir du premier binlog disponible. |
|
source.scan.fetch-size |
Spécifie la taille des lots pour les lectures par lot. |
Integer |
Non |
512 |
Non applicable. |
|
source.scan.timeout-seconds |
Spécifie le délai d'expiration pour les lectures par lot. |
Integer |
Non |
60 |
Unité : secondes. |
|
source.scan.filter-push-down.enabled |
Indique s'il faut appliquer le pushdown des filtres lors d'une lecture par lot. |
Boolean |
Non |
false |
Remarque
|
|
source.binlog.filter-push-down.enabled |
Indique s'il faut appliquer le pushdown des filtres lors de la consommation du binlog. |
Boolean |
Non |
false |
Remarque
|
|
scan.prefer.physical-column.over.metadata-column |
Indique s'il faut privilégier la lecture des données depuis une colonne physique lorsqu'elle porte le même nom qu'une colonne de métadonnées. |
Boolean |
Non |
false |
Ce paramètre est pris en charge uniquement dans VVR 11.5 et versions ultérieures. Les versions antérieures privilégient toujours la lecture des données depuis la colonne de métadonnées. |
Paramètres de table sink
|
Paramètre |
Description |
Type |
Obligatoire |
Valeur par défaut |
Remarques |
|
sink.write-mode |
Mode d'écriture des données. |
ENUM |
Non |
INSERT |
Remarque
|
|
sink.on-conflict-action |
Politique de gestion des conflits de clés primaires. |
ENUM |
Non |
INSERT_OR_UPDATE |
|
|
sink.create-missing-partition |
Indique s'il faut créer automatiquement une partition en fonction de la valeur de partition lorsqu'aucune partition correspondante n'existe lors de l'écriture dans une table partitionnée. |
Boolean |
Non |
false |
|
|
sink.delete-strategy |
Politique de traitement des messages de rétractation. |
String |
Non |
CHANGELOG_STANDARD |
Remarque
L'activation de l'option |
|
sink.ignore-null-when-update.enabled |
Lorsque |
Boolean |
Non |
false |
Remarque
Ce paramètre est pris en charge uniquement lorsque |
|
sink.ignore-null-when-update-by-expr.enabled |
Lorsque |
Boolean |
Non |
false |
Cette méthode offre de meilleures performances que
Remarque
|
|
sink.ignore-null-when-update.use-builtin.enabled |
Indique s'il faut utiliser la méthode intégrée du SDK Hologres lorsque sink.ignore-null-when-update.enabled ou sink.ignore-null-when-update-by-expr.enabled est activé. |
Boolean |
Non |
false |
Les performances sont équivalentes lorsque sink.ignore-null-when-update.enabled est activé. Remarque
|
|
sink.default-for-not-null-column.enabled |
Indique si le connecteur fournit une valeur par défaut lorsqu'une valeur null est écrite dans une colonne |
Boolean |
Non |
true |
Remarque
Ce paramètre est pris en charge uniquement lorsque |
|
sink.remove-u0000-in-text.enabled |
Indique si le connecteur supprime le caractère illégal |
Boolean |
Non |
true |
|
|
sink.partial-insert.enabled |
Indique s'il faut insérer ou mettre à jour uniquement les champs définis dans l'instruction INSERT. |
Boolean |
Non |
false |
Remarque
|
|
sink.deduplication.enabled |
Indique s'il faut effectuer une déduplication lors de la constitution des lots. |
Boolean |
Non |
true |
Remarque
|
|
sink.aggressive-flush.enabled |
Indique s'il faut activer le mode de vidage agressif. |
Boolean |
Non |
false |
Si cette option est définie sur true, le connecteur force le vidage d'un lot lorsque la connexion est inactive, même si le lot n'a pas atteint sa taille configurée. Cela réduit la latence d'écriture des données pendant les périodes de faible trafic. Remarque
Ce paramètre est pris en charge uniquement lorsque |
|
sink.insert.check-and-put.column |
Active les mises à jour conditionnelles et spécifie la colonne à vérifier. |
String |
Non |
Aucune |
La valeur de ce paramètre doit correspondre au nom d'une colonne existante dans la table Hologres. Important
|
|
sink.insert.check-and-put.operator |
Opérateur de comparaison pour l'opération de mise à jour conditionnelle. |
String |
Non |
GREATER |
Compare la colonne de vérification de l'enregistrement entrant avec la valeur existante dans la table. La mise à jour s'exécute si la condition est remplie. Opérateurs pris en charge : |
|
sink.insert.check-and-put.null-as |
Lors d'une mise à jour conditionnelle, traite une valeur null dans les données existantes comme la valeur spécifiée par ce paramètre. |
String |
Non |
Aucune |
Dans PostgreSQL, toute comparaison avec |
|
sink.insert.batch-size |
En mode |
Integer |
Non |
512 |
Le connecteur déclenche une écriture dès que l'un des seuils |
|
sink.insert.batch-byte-size |
En mode |
Long |
Non |
2097152 (2 Mo) |
|
|
sink.insert.flush-interval-ms |
En mode |
Long |
Non |
10000 |
|
|
sink.copy.format |
Format de transmission des données utilisé en mode COPY. |
String |
Non |
|
Formats pris en charge pour le mode
Format pris en charge pour le mode Remarque
Ce paramètre est pris en charge uniquement lorsque |
|
sink.insert.conflict-update-set |
Expression Hologres utilisée pour mettre à jour la ligne lors d'un conflit de clé primaire. |
String |
Non |
Aucune |
Équivalent à Par exemple, si ce paramètre est défini sur
Remarque
Ce paramètre est pris en charge uniquement lorsque |
|
sink.insert.conflict-where |
Condition de filtre Hologres pour déclencher une mise à jour lors d'un conflit de clé primaire. |
String |
Non |
Aucune |
Équivalent à Par exemple, si ce paramètre est défini sur Remarque
|
Paramètres de table de dimension
|
Paramètre |
Description |
Type |
Obligatoire |
Valeur par défaut |
Notes |
|
lookup.read.batch-size |
Nombre maximal d'enregistrements à regrouper par lot pour les requêtes ponctuelles sur une table de dimension Hologres. |
Integer |
Non |
256 |
Aucune |
|
lookup.read.timeout-ms |
Délai d'expiration pour les requêtes ponctuelles sur une table de dimension. |
Long |
Non |
0, ce qui signifie aucune expiration. |
Aucune |
|
lookup.read.column-table.enabled |
Indique s'il faut utiliser une table orientée colonne comme table de dimension. |
Boolean |
Non |
false |
Les tables orientées colonne offrent de mauvaises performances pour les requêtes ponctuelles. Nous recommandons d'utiliser une table orientée ligne ou hybride ligne-colonne comme table de dimension. Un avertissement est journalisé si ce paramètre est activé pour une table orientée colonne. |
|
lookup.insert-if-not-exists |
Détermine si un enregistrement doit être inséré lorsqu'il n'existe pas encore. |
Boolean |
Non |
false |
Si une requête ponctuelle ne trouve aucune correspondance pour l'enregistrement actuel dans la table de dimension, le connecteur insère l'enregistrement. |
|
cache |
Politique de cache. |
String |
Non |
Aucune |
Hologres prend en charge uniquement deux politiques de cache : None et LRU. |
|
cacheSize |
Taille du cache, exprimée en lignes. |
Integer |
Non |
10000 |
Après avoir sélectionné la politique de cache LRU, vous pouvez définir la taille du cache. L'unité est le nombre d'entrées. |
|
cacheTTLMs |
Durée de vie (TTL) du cache, en millisecondes. |
Long |
Non |
Voir les notes. |
L'unité est la milliseconde. La valeur par défaut de cacheTTLMs dépend de la configuration du cache :
|
|
cacheEmpty |
Indique s'il faut mettre en cache les résultats de jointure vides. |
Boolean |
Non |
true |
Important
Décidez d'activer ou non cette option en fonction de votre scénario métier réel.
|
|
async |
Spécifie si les résultats doivent être retournés de manière asynchrone. |
Boolean |
Non |
false |
Remarque
|
|
lookup.async |
Active ou désactive les requêtes asynchrones pour les tables de dimension. |
Boolean |
Non |
true |
|
|
lookup.filter-push-down.enabled |
Détermine si les conditions de filtrage de la table de dimension doivent être transmises au serveur Hologres. |
Boolean |
Non |
false |
Cette fonctionnalité prend uniquement en charge les opérations de comparaison entre une colonne et une constante. Le connecteur transmet seulement les opérateurs d'égalité (=) et de comparaison (<, <=, >, >=). Remarque
Ce paramètre est pris en charge uniquement dans Realtime Compute Engine VVR 11.4 et versions ultérieures. |