Dataphin を使用する前に、データ構築プロセス中に生データの読み取りとデータの書き込みを行うためのデータソースとして、ビジネス要件を満たすデータベースまたはデータウェアハウスを選択する必要があります。 Dataphin はさまざまなデータエンジンを統合し、MaxCompute や Hive などのデータウェアハウスへの接続に加えて、MySQL や Oracle などの従来のエンタープライズデータベースへの接続もサポートしています。
背景情報
Dataphin は、ビッグデータストレージデータソース、ファイルデータソース、メッセージキューデータソース、リレーショナルデータソース、および NoSQL データソースへの接続をサポートしています。 各モジュールでサポートされているデータソースの種類は次のとおりです。
Dataphin でデータソースに接続するには、まずデータソース管理でデータソースを作成する必要があります。
データソースを追加する場合、Dataphin は本番データソースと開発データソースの追加をサポートしています。 基本プロジェクトと開発プロダクションプロジェクトの本番環境は、本番データソースの読み取りと書き込みを行います。 開発プロダクションプロジェクトの開発環境は、開発データソースの読み取りと書き込みを行います。 DataService Studio では、基本モードと開発プロダクションモードの本番環境は本番データソースから読み取り、開発プロダクションモードの開発環境は開発データソースから読み取ります。 同期タスクは、二重の本番環境と開発環境をサポートしておらず、プロダクト内のすべてのデータソースは本番データソースの読み取りと書き込みを行います。
説明必要なデータソースタイプが組み込みのデータソースタイプにない場合は、オフラインまたはリアルタイムのデータソースタイプをカスタマイズして Dataphin に接続し、さまざまなデータソース統合要件を満たすことができます。 詳細については、以下をご参照ください。
データソースの説明
シナリオ | 説明 | 参照 |
オフライン統合 | オフライン統合は、入力、出力、変換コンポーネントなど、複数のコンポーネントをサポートしています。キャンバス上でこれらのコンポーネントをドラッグ、構成、組み立てることで、オフライン統合パイプラインを構築できます。オフライン統合には、よりパーソナライズされた構成を作成できるコードエディタも用意されています。さらに、カスタム RDBMS データソースを作成すると、その入力および出力コンポーネントがコンポーネントライブラリに自動的に追加され、多様なデータ同期要件をサポートします。 | |
リアルタイム統合 | Dataphin のリアルタイム統合機能は、ソースデータソースのデータベース全体またはすべてのテーブルからのデータ変更を、リアルタイムで宛先データソースに統合し、ソースと宛先のデータソースを同期させます。 | |
オフライン開発 - データベース SQL | データソースを Dataphin に接続した後、データベース SQL タスクを作成および開発できます。 | |
メタデータ取得 | メタデータセンターは、さまざまな業務システムからメタデータを抽出し、処理し、一元的に保存および管理します。このプロセスはデータガバナンスをサポートし、組織内でのデータの整理、取得、分析の方法を改善します。 | |
リアルタイム開発 | 接続されたデータソースを使用して、リアルタイムメタテーブルを作成し、リアルタイムタスクを開発できます。 | |
Data Quality | Dataphin のアセット品質機能は、データ開発と利用のための完全なデータ品質ソリューションを提供します。テーブルに対するグローバル品質ルールや、データソースに対する特定の品質ルールを作成できます。 データソース品質ルールを使用すると、Dataphin 内の任意のデータソースを選択し、その品質監視ルールを作成できます。サポートされているすべてのデータソースで接続性テストを実行できます。ただし、これらのデータソースの一部についてのみ、テーブルスキーマの変更を監視するための品質ルールを構成できます。詳細については、以下の表の「データソース品質 - テーブル構造の変更」列をご参照ください。 | |
データサービス | DataService Studio (OneService) は、Dataphin に基づいてデータ中台を構築する最終ステップです。データサービスの統一エンドポイントとして、DataService Studio はデータの一元的なマーケットスタイル管理を提供します。このアプローチにより、データセキュリティを確保しながらデータアクセスへの障壁を低減します。 | |
Tag Factory | Tag Factory は、企業のデータ研究開発 (R&D) チームおよび開発者向けのワンストッププラットフォームです。タグ作成からサービス配信までのライフサイクル全体をカバーします。このプラットフォームは、リスク管理やマーケティングなどのさまざまなシナリオに適しており、オフライン、リアルタイム、およびサービスベースのタグを開発、管理、探索、提供する機能を提供します。Tag Factory は、ビジネスアプリケーションを強化し、企業がタグアセットを構築するのを支援し、タグを効率的に開発し、簡単に見つけ、使用し、管理できるようにします。 |
このドキュメントでは、Dataphin に接続できるデータソースと、Dataphin でサポートされているアプリケーションシナリオのみをリストしています。 各シナリオでデータソースがサポートする具体的な機能の詳細については、以下を参照してください。
ビッグデータストレージデータソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | データソースの品質 - テーブル構造の変更 | データサービス | Tag Factory | 作成ガイド |
MaxCompute | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | サポート | サポート対象 | サポート対象 | サポート対象 | サポート対象 | |
Hive | サポート対象 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | |
Hologres | サポート | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート | サポート対象 | サポート対象 | サポート対象 | |
IMPALA | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | |
TDH Inceptor | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | |
Kudu | サポート | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | |
StarRocks | サポート | サポートされていません | サポート | サポート対象 | サポート | サポート | サポート対象 | サポート | サポートされていません | |
Hudi | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポートされていません | |
Doris | サポート対象 | サポートされていません | サポート対象 | サポート対象 | サポート対象 | サポート | サポート対象 | サポート対象 | サポートされていません | |
GreenPlum | サポート対象 | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート対象 | |
TDengine | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | |
ArgoDB | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート | サポート | サポートされていません | サポートされていません | |
Paimon | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポートされていません | |
SelectDB | サポートされています | サポートされていません | サポート対象 | サポート | サポートされていません | サポート | サポート対象 | サポート対象 | サポートされていません | |
Lindorm (コンピューティングエンジン) | サポート | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされていません | |
Databricks | サポート対象 | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポート | サポート対象 | サポート対象 | サポートされていません | |
Amazon Redshift | サポート | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポート対象 | サポート対象 | サポート対象 | サポートされていません | |
DolphinDB | サポート | 非サポート | 非サポート | サポート | 非サポート | 非サポート | 非サポート | 非サポート | 非サポート |
ファイルデータソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | データソース品質 - テーブル構造の変更 | データサービス | Tag Factory | 作成ガイド |
HDFS | サポート | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
FTP | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
OSS | サポート | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Amazon S3 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |
メッセージキューデータソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | データソース品質 - テーブル構造の変更 | データサービス | Tag Factory | 作成ガイド |
Log Service | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Kafka | サポートされています | サポートされています | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート | |
DataHub | サポートされています | サポート | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | |
RabbitMQ | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |
リレーショナルデータソース
データソースタイプ | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | データソース品質 - テーブル構造の変更 | データサービス | Tag Factory | 作成ガイド |
PolarDB | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | |
PolarDB-X (旧 DRDS) | サポート対象 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | |
PolarDB-X 2.0 | サポート対象 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | |
MySQL | サポート | サポート対象 | サポート | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | |
SAP HANA | サポート | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | |
Microsoft SQL Server | サポート対象 | サポート | サポート対象 | サポート対象 | サポート対象 | サポート | サポート | サポート対象 | サポート対象外 | |
PostgreSQL | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | |
AnalyticDB for MySQL 2.0 | サポート対象 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象 | サポート対象外 | サポート | サポート対象 | サポート対象外 | |
AnalyticDB for MySQL 3.0 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | |
AnalyticDB for PostgreSQL | サポート対象 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート | サポート対象 | サポート対象 | |
OceanBase | サポート | サポートされていません | サポート | サポート対象 | サポート対象 | サポートされていません | サポート対象 | サポート | サポートされていません | |
Oracle | サポート対象 | サポート対象 | サポート | サポート対象 | サポート対象 | サポート対象 | サポート | サポート対象 | サポート対象 | |
Vertica | サポート | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | |
IBM DB2 | サポート対象 | サポート | サポート対象外 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | |
Teradata | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | |
ClickHouse | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | |
DM (DaMeng) | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | サポート | サポート対象 | サポート対象 | サポート対象外 | |
GBase 8a | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
KingbaseES | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
TiDB | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
GoldenDB | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象 | サポート対象外 | サポート対象外 | |
OpenGauss | サポートされています | サポートされていません | サポート対象 | サポート | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート | |
GaussDB (DWS) | サポート対象 | サポートされていません | サポート対象 | サポートされていません | サポートされていません | サポート対象 | サポート対象 | サポート対象 | サポートされていません | |
Amazon RDS for MySQL | サポート対象 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | |
Amazon RDS for PostgreSQL | サポート対象 | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポート対象 | サポート対象 | サポート対象 | サポートされていません | |
Amazon RDS for SQL Server | サポート対象 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象 | サポート対象 | サポート対象 | サポート対象外 | |
Amazon RDS for Oracle | サポート対象 | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポート対象 | サポート対象 | サポート対象 | サポートされていません | |
Amazon RDS for DB2 | サポート対象 | サポートされていません | サポートされていません | サポート | サポートされていません | サポート | サポート対象 | サポート対象外 | サポートされていません | |
TDSQL for MySQL | サポート対象 | サポート対象外 | サポート対象外 | サポート | サポート対象外 | サポート済み | サポート対象 | サポート対象外 | サポート対象外 |
NoSQL データソース
データソースの種類 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | データソースの品質 - テーブル構造の変更 | データサービス | Tag Factory | 作成ガイド |
HBase 0.9.4 | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | サポート対象外 | サポート対象外 | サポートされています | サポートされています | |
HBase 1.1x | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポート | サポート対象外 | サポート | サポートされています | サポートされています | |
HBase2.0 | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象 | サポート | サポート | |
Elasticsearch | サポート | サポート対象外 | サポート対象外 | サポート | サポート対象 | サポート対象外 | サポート対象外 | サポート | 対象外 | |
MongoDB | サポートされています | サポート対象外 | サポート対象外 | サポート対象外 | サポートされています | サポート対象外 | サポート対象 | サポート | サポート対象外 | |
Tablestore | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポート対象 | |
Aliyun HBase | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポート対象 | サポートされていません | サポートされていません | |
Redis | サポートされています | サポートされていません | サポートされていません | サポートされていません | サポートされています | サポートされていません | サポートされていません | サポート対象外 | サポートされていません | |
Lindorm (ワイドテーブル) | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポート対象 | サポートされています | サポートされています | |
Presto | サポートされていません | サポートされていません | サポート対象 | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | サポートされていません | |
Easysearch | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Trino | サポート対象外 | サポート対象外 | サポート | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
OpenSearch | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |
半構造化ストレージデータソース
データソース種別 | オフライン統合 | リアルタイム統合 | オフライン開発 - データベース SQL | メタデータ取得 | リアルタイム開発 | グローバルテーブル品質 | データソース品質 - テーブル構造の変更 | データサービス | Tag Factory | 作成ガイド |
API | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象 | |
SAP Table | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Salesforce | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | |
Lark Bitable データソース | サポート対象 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 | サポート対象外 |