DataWorks は、Paimon Catalog データソースの設定をサポートしており、Data Lake Formation (DLF) に由来しない Paimon テーブルのメタデータを収集・管理できます。この専用データソースを使用することで、データマップにおける Paimon データレイク資産のガバナンスを統合できます。このトピックでは、このデータソースの設定方法について説明します。
はじめに
企業におけるレイクハウスアーキテクチャの採用拡大に伴い、Paimon、Iceberg、Delta Lake などのオープンテーブルフォーマットは、リアルタイムデータウェアハウスの構築やバッチストリーム統合処理シナリオを実現するための基盤となっています。Flink のストリーム処理エコシステムにおいて、Paimon Catalog はそのネイティブな互換性から広く利用されています。
DataWorks は Data Lake Formation と深く統合されており、DLF データソースを介してデータレイクテーブルへの統一的な管理とアクセスをサポートします。例えば、ユーザーは Flink エンジンを使用して Paimon Catalog を定義し、そのメタデータとデータを Alibaba Cloud OSS に保存することがあります。
既存のデータソースシステムでは、このようなネイティブで DLF 管理外のレイクフォーマットメタデータを効果的に発見したり、深く管理したりすることはできませんでした。この課題に対処するため、DataWorks はPaimon Catalog データソースを導入し、ネイティブなデータレイクフォーマットのメタデータの収集とガバナンスをサポートします。この機能は、自己宣言されたカタログの管理上のギャップを埋め、エンドツーエンドのレイクハウスデータを可視化し、管理・利用可能にします。
制限事項
ネットワーク接続:サーバーレスリソースグループ のみがサポートされています。
利用シーン:Paimon Catalog は現在、Collect Metadata とガバナンスにのみ使用されます。データ統合および同期タスクはサポートしていません。データ同期のために Paimon テーブルの読み書きを行うには、DLF や OSS などの他のデータソースを使用してください。
操作手順
1. データソースページへの移動
DataWorks コンソールにログインし、対象のリージョンに切り替えます。左側のナビゲーションバーで ワークスペース をクリックし、対象ワークスペースの [操作] 列にある 管理 をクリックして管理ページに移動します。
ワークスペース管理センターページで、左側のナビゲーションバーにある データソース をクリックして、データソースページに移動します。
2. Paimon Catalog データソースの追加
データソース ページで、データソースの追加 をクリックします。
[データソースを追加] ダイアログボックスで、Paimon Catalog を検索して選択します。
3. パラメーターの設定
次のパラメーターを設定します:
パラメーター | 説明 |
データソース名 | カスタムのデータソース名 (例: |
カタログ | 接続に使用するカタログの名前 (例: |
メタストア | カタログのストレージタイプ。現在、Filesystem のみがサポートされています。 |
ファイルシステム | ファイルストレージのタイプ。現在、OSS のみがサポートされています。 |
アクセスモード |
|
Region | 最適なパフォーマンスを得るには、ワークスペースと同じリージョンにあるバケットを選択してください。クロスリージョンのデータソースの場合は、VPC ピアリング接続を確立します。詳細については、「同一 Alibaba Cloud アカウント内の別リージョンにあるデータソースへの接続」をご参照ください。または、パブリックエンドポイントを使用して接続することもできます。 |
エンドポイント | エンドポイントの設定については、「アクセスドメイン名とデータセンター」をご参照ください。 |
ウェアハウス | ウェアハウスパス:OSS 内の Paimon Catalog のストレージパスです。
|
4. 接続テスト
データソースを設定した後、接続テストを実行して、データソースとリソースグループ間の接続を検証します。
接続可能 が表示された場合、設定は正しいです。
接続できません が表示された場合、診断ツールが開き、トラブルシューティングに役立ちます。一般的な原因には、不正確な認証情報、設定されていない IP アドレスホワイトリストなどのネットワーク接続の問題、または NAT ゲートウェイの欠落が含まれます。
標準モードでは、開発環境と本番環境の両方が 接続可能 であることを確認する必要があります。そうでない場合、メタデータ収集などの後続の操作中にエラーが発生します。
次のステップ
データソースを追加した後、データマップモジュールに移動してメタデータを収集します。その後、このメタデータを表示および管理できます。
をクリックして、リストからパスを選択します。