Dataphin を使用する前に、データソースとしてデータベースまたはデータウェアハウスを選択します。このソースは、開発中に生データを読み取り、データを書き込むために使用されます。Dataphin は多くのコンピュートエンジンを統合しています。MaxCompute や Hive などのデータウェアハウスをサポートし、MySQL や Oracle などの従来のエンタープライズデータベースにも接続します。
背景情報
Dataphin は、ビッグデータストレージ、ファイル、メッセージキュー、リレーショナル、NoSQL データソースなど、さまざまなデータソースをサポートしています。各モジュールでサポートされているデータソースタイプについては、以下で説明します。
Dataphin でデータソースに接続するには、まずデータソース管理でデータソースを作成します。
Dataphin では、本番データソースと開発データソースの両方を追加できます。基本プロジェクトおよび Dev-Prod プロジェクトの本番 (Prod) 環境では本番データソースが使用され、Dev-Prod プロジェクトの開発 (Dev) 環境では開発データソースが使用されます。DataService Studio では、基本モードおよび Dev-Prod モードの本番 (Prod) 環境は本番データソースから読み取り、開発 (Dev) 環境は開発データソースから読み取ります。同期タスクは開発 (Dev) 環境と本番 (Prod) 環境の分離をサポートしておらず、常に本番データソースを使用します。
説明組み込みのデータソースタイプがニーズを満たさない場合は、カスタムのオフラインまたはリアルタイムデータソースを作成します。その後、Dataphin に接続できます。詳細については、以下をご参照ください。
データソースの説明
シナリオ | 説明 | 参照 |
オフライン統合 | オフライン統合は、入力、出力、変換ウィジェットなど、さまざまなウィジェットをサポートしています。これらのウィジェットをキャンバス上でドラッグ、設定、組み立てることで、単一のオフライン統合パイプラインを作成できます。オフライン統合は、より多くのカスタマイズのためのコードエディタも提供します。カスタム RDBMS データソースを作成すると、その入力および出力コンポーネントが自動的にコンポーネントライブラリに追加され、多様なデータ同期のニーズに対応します。 | |
リアルタイム統合 | Dataphin のリアルタイム統合機能は、ソースから宛先へのデータ変更をリアルタイムで同期します。データベース全体またはすべてのテーブルからの変更を統合して、ソースと宛先のデータソースを同期させることができます。 | |
オフライン開発 - データベース SQL | データソースを Dataphin に接続した後、Dataphin でデータベース SQL ノードを作成して開発を行うことができます。 | |
メタデータ取得 | メタデータセンターは、さまざまな業務システムからメタデータを抽出し、処理、一元的に保存、管理します。これにより、データガバナンスをサポートし、組織内でのデータの整理、取得、分析能力を向上させます。 | |
リアルタイム開発 | 接続されたデータソースを使用して、リアルタイムメタテーブルを作成し、リアルタイムノードを開発することができます。 | |
Data Quality | アセット品質は、Dataphin プラットフォーム上のデータ開発および利用のための包括的なデータ品質ソリューションです。データソースに基づいて、グローバルテーブル品質ルールまたはデータソース品質ルールを作成できます。 データソース品質ルールを使用すると、Dataphin 内の任意のデータソースに対して品質モニタリングルールを作成できます。サポートされているすべてのデータソースで接続性をテストできます。ただし、テーブルスキーマの変更を監視する品質ルールをサポートしているのは一部のデータソースのみです。詳細については、以下の表の [Data Quality - テーブルスキーマ変更] 列をご参照ください。 | |
DataService Studio | DataService Studio (OneService) は、Dataphin を使用してデータ中台を構築する最終ステップです。統一されたデータサービスエンドポイントとして、DataService Studio は一元化されたマーケットプレイス形式のデータ管理を提供します。これにより、データセキュリティを確保しながら、データアクセシビリティの障壁を低減します。 | |
Tag Factory | Tag Factory は、作成からサービスまでのタグのライフサイクル全体を網羅するワンストッププラットフォームを提供します。データ R&D チームや開発者向けに設計されており、リスク管理やマーケティングなどのシナリオに適しています。このプラットフォームは、オフライン、リアルタイム、およびサービスタグの開発、管理、探索をサポートします。これにより、ビジネスアプリケーションを強化し、効率的で、発見可能、使用可能、かつ管理可能な価値あるタグアセットを構築するのに役立ちます。 |
このトピックでは、Dataphin に接続できるデータソースと、それらがサポートするアプリケーションシナリオを一覧表示します。各データソースがさまざまなシナリオでサポートする具体的な機能の詳細については、以下をご参照ください。
ビッグデータストレージデータソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | Data Quality - テーブルスキーマ変更 | DataService Studio | Tag Factory | 作成ガイド |
MaxCompute | サポートされています | サポート対象 | サポート対象外 | サポート対象外 | サポートされています | サポートされています | サポートされています | サポート対象 | サポート対象 | |
Hive | サポートされています | サポートされています | サポート対象外 | サポートされています | サポート対象 | サポートされています | サポート対象 | サポート対象外 | サポート対象外 | |
Hologres | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポート対象 | サポートされています | |
Impala | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象 | サポート対象外 | |
TDH Inceptor | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポートされています | サポートされています | サポートされています | サポート対象外 | |
Kudu | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | |
StarRocks | サポートされています | サポートされていません | サポートされています | サポートされています | サポートされています | サポート | サポート対象 | サポートされています | サポートされていません | |
Hudi | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート | サポートされていません | サポートされていません | サポートされていません | サポートされていません | |
Doris | サポートされています | サポートされていません | サポートされています | サポート対象 | サポート対象 | サポートされています | サポートされています | サポートされています | サポートされていません | |
GreenPlum | サポートされています | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされています | |
TDengine | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | |
ArgoDB | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされています | サポートされていません | サポートされていません | |
Paimon | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | |
SelectDB | サポートされています | サポートされていません | サポートされています | サポートされています | サポートされていません | サポート | サポートされています | サポート対象 | サポートされていません | |
Lindorm (コンピューティングエンジン) | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | |
Databricks | サポート対象 | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされています | サポートされています | サポートされていません | |
Amazon Redshift | サポートされています | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポート対象 | サポートされています | サポート対象 | サポートされていません | |
DolphinDB | サポートされています | 非サポート | 非サポート | サポート | 非サポート | 非サポート | 非サポート | サポート | 非サポート | |
Snowflake | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません |
ファイルデータソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | Data Quality - テーブルスキーマ変更 | DataService Studio | Tag Factory | 作成ガイド |
HDFS | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
FTP | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
OSS | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Amazon S3 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |
メッセージキューデータソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | Data Quality - テーブルスキーマ変更 | DataService Studio | Tag Factory | 作成ガイド |
Log Service | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Kafka | サポートされています | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | |
DataHub | サポートされています | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | |
RabbitMQ | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |
リレーショナルデータソース
データソースタイプ | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | Data Quality - テーブルスキーマ変更 | DataService Studio | Tag Factory | 作成ガイド |
PolarDB | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象 | サポートされています | サポート対象外 | サポート対象外 | |
PolarDB-X (旧 DRDS) | サポート対象 | サポート対象外 | サポート対象外 | サポートされています | サポートされています | サポートされています | サポート対象 | サポート対象外 | サポート対象外 | |
PolarDB-X 2.0 | サポートされています | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポートされています | サポート対象 | サポート対象外 | |
MySQL | サポートされています | サポートされています | サポートされています | サポートされています | サポート対象 | サポート対象 | サポートされています | サポートされています | サポートされています | |
SAP HANA | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポートされています | サポートされています | サポートされています | サポート対象 | サポート対象外 | |
Microsoft SQL Server | サポート対象 | サポートされています | サポート | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポート対象外 | |
PostgreSQL | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | |
AnalyticDB for MySQL 2.0 | サポートされています | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポート対象外 | |
AnalyticDB for MySQL 3.0 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポート対象外 | |
AnalyticDB for PostgreSQL | サポートされています | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | |
OceanBase | サポートされています | サポートされていません | サポート | サポート対象 | サポートされています | サポートされていません | サポート対象 | サポートされています | サポートされていません | |
Oracle | サポートされています | サポート対象 | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | |
Vertica | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | |
IBM DB2 | サポート対象 | サポートされています | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポート対象 | サポート対象外 | サポート対象外 | |
Teradata | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | |
ClickHouse | サポートされています | サポート対象外 | サポートされています | サポートされています | サポートされています | サポートされています | サポートされています | サポート対象 | サポート対象外 | |
DM | サポートされています | サポート対象外 | サポートされています | サポートされています | サポート対象外 | サポートされています | サポートされています | サポートされています | サポート対象外 | |
GBase 8a | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
KingbaseES | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
TiDB | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
GoldenDB | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | |
OpenGauss | サポートされています | サポートされていません | サポートされています | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされています | |
GaussDB (DWS) | サポートされています | サポートされていません | サポートされています | サポートされていません | サポートされています | サポートされています | サポートされています | サポートされています | サポートされていません | |
Amazon RDS for MySQL | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポート対象 | サポート対象外 | |
Amazon RDS for PostgreSQL | サポートされています | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされています | サポートされています | サポート対象 | サポートされていません | |
Amazon RDS for SQL Server | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポート対象 | サポート対象外 | |
Amazon RDS for Oracle | サポートされています | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされています | サポートされています | サポート対象 | サポートされていません | |
Amazon RDS for DB2 | サポート対象 | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポート | サポート対象 | サポート対象外 | サポートされていません | |
TDSQL for MySQL | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート済み | サポートされています | サポート対象外 | サポート対象外 | |
GBase 8c | サポート | 非サポート | 非サポート | 非サポート | 非サポート | 非サポート | 非サポート | サポート | 非サポート |
NoSQL データソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | Data Quality - テーブルスキーマ変更 | DataService Studio | Tag Factory | 作成ガイド |
HBase 0.9.4 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポートされています | サポートされています | |
HBase 1.1x | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポートされています | |
HBase2.0 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポートされています | |
Elasticsearch | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポートされています | サポート対象外 | サポート対象外 | サポートされています | 対象外 | |
MongoDB | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポートされています | サポートされています | サポート対象外 | |
Tablestore | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされています | |
Aliyun HBase | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされています | サポートされていません | サポートされていません | |
Redis | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | サポート対象外 | サポートされていません | |
Lindorm (ワイドテーブル) | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされています | サポートされています | サポートされています | |
Presto | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | |
Easysearch | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Trino | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
OpenSearch | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |
半構造化ストレージデータソース
データソース種別 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | Data Quality - テーブルスキーマ変更 | DataService Studio | Tag Factory | 作成ガイド |
API | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | |
SAP Table | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Salesforce | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Lark Bitable データソース | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |