MaxCompute では、Data Transmission Service の排他的リソースグループを使用して、大量のデータを高い安定性と低レイテンシーで転送できます。これらの排他的リソースグループは、より高速なデータ転送速度と改善されたネットワーク条件を提供し、転送時間を短縮して効率を向上させます。このトピックでは、このタイプのリソースの購入方法と使用方法について説明します。
背景情報
MaxCompute は、各リージョンで無料のData Transmission Service のパブリックリソースグループを提供し、そのリージョンのすべてのお客様にデータ転送サービスを提供しています。MaxCompute はまた、より高いデータ同期の安定性とより多くの同時同期ジョブを提供するために、Data Transmission Service のサブスクリプション排他的リソースグループも提供しています。次の表は、2 種類のリソースグループを比較したものです。
リソースグループタイプ | 料金説明 | サポート対象リージョン | 注意事項 |
Data Transmission Service のパブリックリソースグループ | 無料 | MaxCompute が利用可能なすべてのリージョン |
|
Data Transmission Service の排他的リソースグループ (サブスクリプション) | このリソースグループはサブスクリプションベースで利用可能で、購入した同時実行ユニット数に基づいて課金されます。詳細については、「排他的データ転送サービスリソースグループの料金」をご参照ください。 |
| Data Transmission Service の排他的リソースグループを購入すると、MaxCompute は購入したリソースが排他的に使用されるように予約します。これにより、データ転送リソースへの排他的なアクセスが保証され、データ転送の安定性が向上します。 |
注意事項
Data Transmission Service の排他的リソースグループを購入して使用する前に、ネットワークとリージョンが次の要件を満たしていることを確認してください:
ネットワークの制限:VPC ネットワーク経由のアクセスのみがサポートされています。パブリックインターネット経由のアクセスはサポートされていません。
リージョンの制限:同一リージョン内でのデータ転送のみがサポートされています。リージョン間のデータ転送はサポートされていません。データ転送タスクが実行される同じリージョンでリソースグループを購入する必要があります。
その他の制限については、「Data Transmission Service の制限事項」をご参照ください。
Data Transmission Service の排他的リソースグループの購入
MaxCompute コンソールにログインし、左上のコーナーでリージョンを選択します。
左側のナビゲーションウィンドウで、を選択します。
クォータ管理 ページで、新しいクォータ をクリックします。
購入ページで、仕様タイプとして トンネル を選択します。
必要に応じて トンネル同時実行数 パラメーターを設定します。
購入完了後、コンソールに戻ると、クォータ管理 ページに、クォータタイプ が 伝送サービス にセットされたクォータグループが表示されます。このクォータグループはスペックアップ、スペックダウン、または更新が可能です。詳細については、「スペックアップとスペックダウン」をご参照ください。
Data Transmission Service の排他的リソースグループの使用
データ転送または Data Integration のジョブを実行する際に、ビジネスニーズに基づいて Data Transmission Service の排他的リソースグループを指定し、データ処理効率を向上させることができます。
MaxCompute クライアント (odpscmd) または他の接続ツールを使用して MaxCompute プロジェクトにアクセスし、Data Transmission Service の排他的リソースグループを有効にします。
setproject odps.tunnel.enable.quota.route.v2=true;説明MaxCompute ソフトウェア開発キット (SDK) のバージョンが 0.45 以降であることを確認してください。
Alibaba Cloud アカウントを含む、必要なすべてのアカウントとロールにクォータ機能を使用する権限を付与します。
MaxCompute コンソールにログインし、左上のコーナーでリージョンを選択します。
左側のナビゲーションウィンドウで、 を選択します。
左側のナビゲーションウィンドウで、 を選択します。
ロール管理 タブで、新しいロール をクリックします。新しいロール ダイアログボックスで、任意の ロール名: と ポリシーの内容: を入力し、OK をクリックします。
ポリシーの内容: を次のように設定します:
{ "Statement": [{ "Action": [ "odps:List", "odps:Usage"], "Effect": "Allow", "Resource": ["acs:odps:*:regions/*/quotas/*"]}], "Version": "1" }ジョブレベルでクォータを指定する必要があるアカウントにロールを付与します。
Alibaba Cloud アカウントに権限を付与します。
-- Alibaba Cloud アカウントをテナントに追加し、アカウントにロールを付与します。 ADD tenant USER <Aliyun$xxxx>; GRANT tenant role <role_name> TO USER <Aliyun$xxxx>; -- テナント内のロールまたはユーザーの権限を表示します。 SHOW grants FOR tenant role <role_name>; SHOW grants FOR tenant USER <user_name>; SHOW principals FOR tenant [role] <role_name>;Resource Access Management (RAM) ユーザーに権限を付与します。
テナント管理 ページで、ユーザー管理 タブをクリックします。
ユーザー管理 タブで、新しいメンバー をクリックします。メンバーの追加 ダイアログボックスで、ロールを設定するアカウントを選択するか、手動で追加します。バッチ設定の役割 エリアで、これらのアカウントに割り当てるロールを選択し、
をクリックし、次に 決定 をクリックします。
Data Transmission Service タスクの SDK でクォータグループを手動で指定します。
-- XXX という名前のリソースグループを Data Transmission Service に使用します。 final TableTunnel tunnel = new TableTunnel(odps); tunnel.getConfig().setQuotaName("xxx"); TableTunnel.UploadSession up = tunnel.createUploadSession(projectName, tableName); -- セッションで実際に使用されているリソースグループを取得できます。 up.getQuotaName();左側のナビゲーションウィンドウで、を選択します。
左側のナビゲーションウィンドウで、を選択します。
QuotaName を表示してコピーできます。例:
ot_42854300324****_169821756****_p#ot_42854300324****_169821756****。
リソースグループメトリックの表示
クォータ管理 ページで、目的のクォータを見つけ、操作 列の リソース消費 をクリックします。
現在のサブスクリプションベースの Data Transmission Service の排他的リソースグループの使用状況を表示できます。
メトリック | 説明 |
リクエストの同時実行 (ピーク) | フィルター条件に基づいてスロット使用量の曲線グラフを表示します。現在の使用量とクォータ使用量の上限が含まれます。単位はスロットです。 |
スループット | フィルター条件に基づいてスループットの曲線グラフを表示します。単位は縦軸に表示されます (例:B/min、MB/min)。 |
テーブルレベルのリクエストの同時実行性 | フィルター条件に基づいて、Tunnel Batch を使用して testtable テーブルにアップロードされたデータの同時実行数の曲線グラフを表示します。単位はスロットです。 フィルター条件として 使用モード (例:Tunnel Batch アップロード) と テーブル名 (例:testtable) を設定できます。 |
テーブルレベルのIPスループット | フィルター条件に基づいて、Tunnel Batch を使用して testtable テーブルにアップロードされたデータについて、各ソース IP からのスループットの曲線グラフを表示します。 フィルター条件として 使用モード (例:Tunnel Batch アップロード) と テーブル名 (例:testtable) を設定できます。 |
リクエスト数とエラーリクエスト数の合計 | フィルター条件に基づいて、リクエストの総数とさまざまな失敗したリクエストの数を表示します。その中で:
|
データ量の概要 | フィルター条件に基づいて、指定された時間範囲内のさまざまな使用タイプのデータ量の概要を表示します。円グラフは各使用タイプの割合を示します。 |
スロット平均伝送レート | フィルター条件に基づいて、Tunnel Batch アップロードを使用するリクエストの単一スロットの平均転送レートを表示します。 フィルター条件として 使用モード (例:Tunnel Batch アップロード) を設定できます。 |
リソースグループの構成
MaxCompute コンソールでのリソースグループ構成機能は、2024 年 9 月 30 日 (UTC+8) に提供終了が予定されています。この日以降にリソースグループ構成が無効になるのを防ぐため、デフォルト構成に戻す必要があります。Data Transmission Service リソースグループをデフォルトに設定してください。その後、「Data Transmission Service の排他的リソースグループの使用」の指示に従ってリソースグループを再構成してください。
MaxCompute コンソールにログインし、左上のコーナーでリージョンを選択します。
左側のナビゲーションウィンドウで、を選択します。
プロジェクト管理 ページで、対象のプロジェクトを見つけ、操作 列の 管理 をクリックします。
基本属性 セクションには、現在のプロジェクトの Data Transmission Service の構成が表示されます。パラメーターは以下のとおりです。
パラメーター
説明
データ伝送サービスのデフォルトクォータ
特定のリソースグループクォータが指定されていない場合に、プロジェクトが読み取りおよび書き込み操作に使用するデフォルトの Data Transmission Service リソースグループ。
値は通常 Default で、これはパブリック Data Transmission Service リソースグループを示します。このパラメーターはコンソールでは変更できません。
データ伝送サービスのデフォルトクォータ
すべてのユーザーとロールに、構成された専用リソースグループを使用してプロジェクトのデータ読み取りおよび書き込みタスクを実行する権限を付与します。したがって、手動での権限付与なしに、データ読み取りおよび書き込みタスクの SDK で構成された専用リソースグループクォータを指定できます。
1 つのプロジェクトには 1 つの専用リソースグループしか構成できません。
データ伝送サービスオーバーレイクォータ
専用の Data Transmission Service リソースグループの拡張機能で、専用リソースグループとデフォルトリソースグループを併用できます。
購入した専用リソースグループを構成した後、プロジェクトの最大同時実行数は、パブリック Data Transmission Service リソースグループと専用リソースグループのリソースの合計に増加します。
この機能は一部のリージョンでのみ利用可能です。利用可能性はコンソールに表示される内容に準じます。
1 つのプロジェクトは 1 つの排他的リソースグループにしか関連付けられませんが、複数のプロジェクトが同じ排他的リソースグループを使用できます。オーバーレイ機能を使用する場合は、クォータグループに Default を指定する必要があります。
オープンストレージ API 操作を使用するには、引き続き排他的リソースグループを指定する必要があります。QuotaName のフォーマットは
ot_42854300324****_169821756****_p#ot_42854300324****_169821756***です。
基本属性 セクションで 編集 をクリックして構成を変更します。