全部產品
Search
文件中心

Dataphin:整合組件庫開發說明

更新時間:Jan 25, 2025

DataphinData Integration的離線管道功能為您提供可視化組件的開發方式。建立離線管道指令碼後,您可以通過多樣性的組件庫拖拽所需組件進行開發。可視化組件開發方式不僅能降低開發難度和提高開發效率,還方便您快速梳理來源與去向資料來源。本文為您介紹如何通過組件庫開發離線單條管道任務。

前提條件

已完成離線管道指令碼的建立。在進行離線管道開發前,您需要建立對應的管道開發指令碼。更多資訊,請參見通過單條管道建立整合任務

離線管道組件開發入口

  1. 在Dataphin首頁,單擊頂部功能表列研發->Data Integration

  2. 按照以下操作指引,進入離線管道組件開發頁面。

    選擇專案(Dev-Prod模式需要選擇環境)->單擊離線整合->選擇並單擊需要開發的離線管道->單擊組件庫

    image

離線組件庫開發說明

一般的,一個完整的離線管道由輸入(>=1個)、轉換(>=0個)、流程(>=0個)及輸出(>=1個)組件組成。

在離線單條管道指令碼的開發頁面,單擊頁面右上方的組件庫,將展示收藏輸入轉換流程輸出自訂組件。

image

收藏組件

當前登入帳號在其他組件庫中,通過單擊image進行收藏的組件將在此處展示。您可以將您經常使用的組件進行收藏,並在收藏組件庫中進行快捷的選取與使用。

輸入組件

原資料的來源,您可根據您的業務資料類型選擇對應的組件拖動到左側的管道畫布用於資料輸入。各輸入組件功能詳情,請參見各組件配置詳情

  • 輸入組件不支援有上遊節點。

  • 輸入下遊節點可以是轉換輸出流程

  • 如果輸入組件有多個下遊節點(輸出轉換),則元件連線時需選擇輸入組件的資料發送方式image

    • 複製:上遊節點的資料根據下遊節點數量進行等份複製,且每個下遊節點的資料都是上遊節點的全部資料。

    • 輪流分發:上遊節點的資料根據下遊節點數量進行輪流分發,且所有下遊節點的資料之和等於上遊節點的資料。

輸出組件

資料來源整合的目標資料。您可根據您的業務需求,選擇對應的輸出組件並拖動到左側的管道畫布用於資料的輸出。各輸出組件功能詳情,請參見各組件配置詳情

輸出組件不支援有下遊節點。

流程組件

用於Data Integration時的流程式控制制,Dataphin支援限速、條件分發2種流程組件。各流程組件功能詳情,請參見各組件配置詳情

  • 流程組件不支援作為離線管道的第一個或最後一個節點,但支援放置於管道指令碼中間的任意位置。

  • 如果流程組件有多個下遊節點(轉換輸出流程),則元件連線時需選擇輸入組件的資料發送方式

  • 如果流程選擇條件分發組件,則元件連線時需選擇分發的條件:

    image

    • 如果您選擇條件結果為true,當上遊節點的結果為true時,資料向下遊發送。

    • 如果您選擇條件結果為false,當上遊節點的結果為false時,資料向下遊發送。

轉換組件

可用於將輸入組件的來來源資料進行轉換,如對資料欄位進行計算、過濾、加密等。各轉換組件功能詳情,請參見各組件配置詳情

轉換組件支援有多個下遊組件(轉換輸出流程),所以在元件連線時需要選擇輸入組件的資料發送方式

有向串連

選取所需要的組件後,您可以通過有向串連的方式,將上遊輸入組件指向下遊轉化、流程、輸出組件,形成有向連線。整合任務運行時將根據有向串連依次執行各組件。元件連線時的上下遊關係,請參見下圖。

image

畫布操作

一個管道畫布支援有多個管道指令碼同時構建,同時您也可以在管道畫布中按右鍵執行如下操作。

操作

描述

複製

複製管道畫布中已有的組件。

粘貼

將選複製的管道組件粘貼在管道畫布中。

刪除

刪除選中的組件。

全選

選中管道畫布中的所有組件。

圈選

通過滑鼠圈定選擇多個組件。

切換為指令碼模式組件

邏輯表LogicalTable組件指令碼模式組件本地檔案組件的輸入與輸出組件在組件配置對話方塊中,支援單擊切換為指令碼模式組件。切換成指令碼模式後,將無法切回。下圖以MySQL輸入組件為例。

切換前

切換後

image

image

組件配置說明

Dataphin支援的組件及配置說明請參見下表:

輸入組件

組件名稱

組件配置

MYSQL

配置MySQL輸入組件

Oracle

配置Oracle輸入組件

Vertica

配置Vertica輸入組件

FTP

配置FTP輸入組件

Hive

配置Hive輸入組件

HBase

管理HBase輸入組件

邏輯表LogicalTable

配置LogicalTable輸入組件

AnalyticDB for PostgreSQL

配置AnalyticDB for PostgreSQL輸入組件

PolarDB

配置PolarDB輸入組件

本地檔案

配置本地檔案輸入組件

Teradata

配置Teradata輸入組件

OceanBase

配置OceanBase輸入組件

Hologres

配置Hologres輸入組件

TDH Inceptor

配置TDH Inceptor輸入組件

DataHub

配置DataHub輸入組件

DM

配置DM(達夢)輸入組件

TiDB

配置TiDB輸入組件

GBase 8a

配置GBase 8a輸入組件

SAP Table

配置SAP Table輸入組件

StarRocks

配置StarRocks輸入組件

Elasticsearch

配置Elasticsearch輸入組件

ArgoDB

配置ArgoDB輸入組件

Salesforce

配置Salesforce輸入組件

SelectDB

配置SelectDB輸入組件

Microsoft SQL Server

配置Microsoft SQL Server輸入組件

PostgreSQL

配置PostgreSQL輸入組件

PolarDB-X(原DRDS)

配置PolarDB-X(原DRDS)輸入組件

HDFS

配置HDFS輸入組件

MaxCompute

配置MaxCompute輸入組件

MongoDB

配置MongoDB輸入組件

AnalyticDB for MySQL 3.0

配置AnalyticDB for MySQL 3.0輸入組件

Log Service

配置Log Service輸入組件

OSS

配置OSS輸入組件

SAP HANA

配置SAP HANA輸入組件

IBM DB2

配置IBM DB2輸入組件

指令碼模式輸入

配置指令碼模式輸入組件

ClickHouse

配置ClickHouse輸入組件

Kafka

配置Kafka輸入組件

API

配置API輸入組件

KingbaseES

配置KingbaseES輸入組件

GoldenDB

配置GoldenDB輸入組件

Impala

配置Impala輸入組件

OpenGauss

配置OpenGauss輸入組件

Kudu

配置Kudu輸入組件

Greenplum

配置Greenplum輸入組件

Doris

配置Doris輸入組件

Amazon_S3

配置Amazon S3輸入組件

Lindorm(計算引擎)

配置Lindorm輸入組件

輸出組件

組件名稱

組件配置

MYSQL

配置MySQL輸出組件

Oracle

配置Oracle輸出組件

Vertica

配置Vertica輸出組件

FTP

配置FTP輸出組件

Hive

配置Hive輸出組件

HBase

配置HBase輸出組件

AnalyticDB for MySQL2.0

配置AnalyticDB for MySQL 2.0輸出組件

AnalyticDB for MySQL 3.0

配置AnalyticDB for MySQL 3.0輸出組件

PolarDB

配置PolarDB輸出組件

SAP HANA

配置SAP HANA輸出組件

IBM DB2

配置IBM DB2輸出組件

指令碼模式輸出

配置指令碼模式組件

ClickHouse

配置ClickHouse輸出組件

Kafka

配置Kafka輸出組件

KingbaseES

配置KingbaseES輸出組件

GoldenDB

配置GoldenDB輸出組件

Impala

配置Impala輸出組件

StarRocks

配置StarRocks輸出組件

Greenplum

配置Greenplum輸出組件

ArgoDB

配置ArgoDB輸出組件

Amazon_S3

配置Amazon S3輸出組件

Microsoft SQL Server

配置Microsoft SQL Server輸出組件

PostgreSQL

配置PostgreSQL輸出組件

PolarDB-X(原DRDS)

配置PolarDB-X輸出組件

HDFS

配置HDFS輸出組件

MaxCompute

配置MaxCompute輸出組件

MongoDB

配置MongoDB輸出組件

Elasticsearch

配置Elasticsearch輸出組件

AnalyticDB for PostgreSQL

配置AnalyticDB for PostgreSQL輸出組件

OSS

配置OSS輸出組件

Teradata

配置Teradata輸出組件

OceanBase

配置OceanBase輸出組件

Hologres

配置Hologres輸出組件

TDH Inceptor

配置TDH Inceptor輸出組件

DataHub

配置DataHub輸出組件

DM

配置DM(達夢)輸出組件

TiDB

配置TiDB輸出組件

GBase 8a

配置GBase 8a輸出組件

OpenGauss

配置OpenGauss輸出組件

API

配置API輸出組件

Redis

配置Redis輸出組件

Doris

配置Doris輸出組件

SelectDB

配置SelectDB輸出組件

Lindorm(計算引擎)

配置Lindorm(計算引擎)輸出組件

轉換組件

組件名稱

組件配置

欄位選擇

配置欄位選擇轉換組件

欄位計算

配置欄位計算轉換組件

過濾轉換

配置過濾轉換組件

加密轉換

配置加密轉換組件

解密轉換

配置解密轉換組件

流程組件

組件名稱

組件配置

限速

配置限速流程組件

條件分發

配置條件分發流程組件

自訂群組件

如需使用自訂群組件,請先在Dataphin自訂群組件後,再進行自訂群組件的選取使用。具體操作,請參見建立離線自訂來源類型