Flink ワークスペースを作成すると、Flink は関連付けられた OSS バケット内にディレクトリを作成します。これらのディレクトリには、Flink ジョブで必要となる、またはジョブによって生成されるデータファイル(システムチェックポイント、ジョブスナップショット、ログ、JAR パッケージなど)が保存されます。このトピックでは、リソースのアップロード方法およびバケット内の各ディレクトリの内容について説明します。
OSS バケット
ディレクトリの説明
Flink ワークスペース作成時に OSS バケットをストレージタイプとして選択した場合、Flink はバケット内に以下のディレクトリを作成し、対応するファイルを保存します。
ディレクトリ | 内容 |
artifacts | アップロードされた JAR パッケージ、追加の依存関係、Python ファイル、および Python 依存関係を保存します。 |
sql-artifacts | 登録済みのユーザー定義関数 (UDF) やコネクタに必要なファイルを保存します。 |
flink-jobs | Flink ジョブの高可用性 (HA) 情報およびシステムチェックポイント情報を保存します。 |
flink-savepoints | Flink 開発コンソールで[スナップショットの作成]をクリックした後に生成されるスナップショットファイルを保存します。 |
flink-sessionclusters | セッションクラスターの高可用性 (HA) 情報およびシステムチェックポイント情報を保存します。 |
plan | エキスパートモードを使用する際のリソース構成情報を保存します。 |
logs | ジョブのログ出力を OSS に設定している場合、そのログを保存します。 |
ファイル管理
OSS バケットを使用するワークスペースでは、artifacts ディレクトリ内のファイルのみをアップロード、ダウンロード、削除できます。
Flink コンソール にログインします。
対象のワークスペースの [操作] 列で、[コンソール] をクリックします。
Object Storage Service (OSS) コンソール で、Flink ワークスペースにアタッチされている OSS バケットに対してオリジン間リソース共有 (CORS) ルールを構成します。
CORS ルールが構成されていない場合、クロスドメイン制限によりファイルのアップロードが失敗する可能性があります。CORS ルールを構成する際は、ソースを https://vvpsg.console.alibabacloud.com に設定し、許可されるメソッドをすべて選択し、許可されるヘッダーを
*に設定してください。
左側のナビゲーションウィンドウで、[ファイル管理] をクリックします。以下の操作を実行できます。
操作
説明
リソースのアップロード
「リソースのアップロード」をクリックし、アップロードするローカルファイルを選択します。また、ファイルをリソースリストエリアにドラッグすることもできます。
アップロードが完了すると、ファイルパスは
oss://<アタッチされた OSS バケット名>/artifacts/namespaces/<プロジェクト名>/<ファイル名>の形式になります。ファイル名をクリックするとパスをコピーできます。プロジェクト名の詳細については、「プロジェクトの確認と削除」をご参照ください。
リソースのダウンロード
[操作] 列で [ダウンロード] をクリックして、OSS バケットからファイルをローカルマシンにダウンロードして表示します。
リソースの削除
[操作] 列で [削除] をクリックすると、OSS バケットからファイルが削除されます。
ファイル転送アクセラレーション
OSS バケットを使用するワークスペースにおいて、長距離通信による大容量ファイルの転送が遅い場合は、ページ右上隅にある転送アクセラレーション機能を有効化することで、アップロードおよびダウンロード速度を向上できます。
この機能を使用するには、事前に OSS の転送アクセラレーション機能 を有効化する必要があります。転送アクセラレーションを有効化すると、追加のトラフィック料金が発生します。課金の詳細については、「転送アクセラレーション料金」をご参照ください。
参照
SQL、JAR、および Python ジョブのデプロイ方法の詳細については、「ジョブのデプロイ」をご参照ください。
実行中のジョブの詳細ログの確認方法の詳細については、「起動ログと運用ログの確認」をご参照ください。
ジョブのシステムチェックポイントおよびスナップショットの確認方法の詳細については、「ジョブ状態セットの管理」をご参照ください。
Alibaba Cloud アカウントを使用してリソースファイルをアップロードする際に「Access Denied by bucket policy」というエラーが表示された場合の対処方法