MaxCompute で大量のデータを安定かつ低レイテンシーで転送するには、Data Transmission Service の排他的リソースグループを使用できます。これらのリソースグループは、より高速なデータ転送と改善されたネットワーク条件を提供し、転送時間を短縮して効率を向上させます。このトピックでは、Data Transmission Service の排他的リソースグループの購入方法と使用方法について説明します。
背景情報
MaxCompute は、各リージョンですべての顧客にデータ転送サービスを提供するために、無料の Data Transmission Service のパブリックリソースグループ を提供しています。MaxCompute はまた、より高いデータ同期の安定性とより多くの同時同期ジョブを提供するために、Data Transmission Service のサブスクリプション排他的リソースグループ も提供しています。次の表は、2 種類のリソースグループを比較したものです。
リソースグループタイプ | 料金説明 | サポート対象リージョン | 使用上の注意 |
Data Transmission Service のパブリックリソースグループ | 無料 | MaxCompute が利用可能なすべてのリージョン |
|
Data Transmission Service の排他的リソースグループ (サブスクリプション) | このリソースグループはサブスクリプションベースで利用可能で、購入した同時実行ユニットの数に基づいて課金されます。詳細については、「Data Transmission Service の排他的リソースグループの料金」をご参照ください。 |
| Data Transmission Service の排他的リソースグループを購入すると、MaxCompute は購入したリソースが排他的に使用されるように予約します。これにより、データ転送リソースへの排他的なアクセスが保証され、データ転送の安定性が向上します。 |
ネットワークとリージョンの要件を確認する
Data Transmission Service の排他的リソースグループを購入して使用する前に、ネットワークとリージョンが要件を満たしていることを確認してください。Data Transmission Service の排他的リソースグループには、次のネットワークとリージョンの制限があります。
VPC からのアクセスのみがサポートされています。インターネットからのアクセスはサポートされていません。
同一リージョン内でのデータ転送のみがサポートされています。リージョン間のデータ転送はサポートされていません。データ転送タスクと同じリージョンでリソースグループを購入する必要があります。
Data Transmission Service のその他の制限事項の詳細については、「Data Transmission Service の制限事項」をご参照ください。
Data Transmission Service の排他的リソースグループの購入
MaxCompute コンソールにログインします。上部のナビゲーションバーで、リージョンを選択します。左側のナビゲーションウィンドウで、[ワークスペース] > [クォータ管理] を選択します。
[クォータ管理] ページで、[クォータの購入] をクリックして購入ページを開きます。必須パラメーターを設定します。主要なパラメーターを次の表に示します。
パラメーター
説明
仕様タイプ
[Data Transmission Service] を選択します。
Data Transmission Service の同時実行数
購入する同時接続数を選択します。
[今すぐ購入] をクリックします。利用規約を読んで同意し、支払いを完了します。
購入が完了したら、コンソールに戻ります。[クォータ管理] ページに、[クォータタイプ] が [Data Transmission Service] のクォータグループが表示されます。このクォータグループは、スペックアップ、スペックダウン、または 更新 できます。スペックアップとスペックダウンのポリシーの詳細については、「スペックアップとスペックダウン」をご参照ください。
Data Transmission Service の排他的リソースグループの使用
データ転送または Data Integration ジョブを実行するときに、Data Transmission Service の排他的リソースグループを指定して、データ処理効率を向上させることができます。
ローカルクライアント (odpscmd) または別の接続ツールを使用して MaxCompute プロジェクトにアクセスし、Data Transmission Service の排他的リソースグループを有効にします。
setproject odps.tunnel.enable.quota.route.v2=true;説明MaxCompute SDK が V0.45 以降に更新されていることを確認してください。
必要な権限を付与します。
デフォルトでは、すべての Alibaba Cloud アカウント、RAM ユーザー、およびロールには、ジョブのクォータグループを指定する権限がありません。アカウントがジョブのクォータグループを指定できるようになるのは、そのアカウントに必要な権限が付与された後のみです。
ロールを作成します。
MaxCompute コンソールにログインします。上部のナビゲーションバーで、リージョンを選択します。
左側のナビゲーションウィンドウで、[テナント] > [ロール] を選択します。
[ロール] ページで、[ロールの追加] をクリックします。
[ロールの追加] ダイアログボックスで、[ロール名] パラメーターを設定し、次のポリシー ドキュメントを入力します。
{ "Statement": [{ "Action": [ "odps:List", "odps:Usage"], "Effect": "Allow", "Resource": ["acs:odps:*:regions/*/quotas/*"]}], "Version": "1" }次の表に、サンプルコードのパラメーターを示します。
パラメーター
説明
Action
許可または拒否される操作。ビジネス要件に基づいて、1 回の権限付与操作で複数の操作を指定できます。複数の操作を指定する場合は、コンマ (,) で区切ります。サポートされている操作の詳細については、「MaxCompute の権限」をご参照ください。
説明ポリシーパラメーターの詳細については、「ポリシー要素」をご参照ください。
Resource
権限付与されるリソースの範囲。このパラメーターは、
["acs:odps:Tenant/${tenant_id}:regions/${region_id}/quotas/${quota_name}"]形式で設定します。["acs:odps:*:regions/*/quotas/*"]は、現在のテナントのすべてのリージョンにあるすべてのクォータグループを指定します。ビジネス要件に基づいて、特定のリージョンと特定のクォータグループを指定できます。[OK] をクリックします。
作成したロールを、ジョブレベルでクォータグループを指定するために使用するアカウントに割り当てます。
説明デフォルトでは、Alibaba Cloud アカウントまたはテナントレベルの Super_Administrator ロールが割り当てられている RAM ユーザーが権限付与操作を実行できます。
権限付与操作は、権限が付与されるオブジェクトのタイプによって異なります。
Alibaba Cloud アカウント
Alibaba Cloud アカウントに権限を付与するには、次のコマンドを実行します。
-- Alibaba Cloud アカウントを現在のテナントに追加し、指定したロールを Alibaba Cloud アカウントに割り当てます。 Add tenant user <Aliyun$xxxx>; Grant tenant role <role_name> to user <Aliyun$xxxx>; -- テナントレベルのロールまたはユーザーの権限を表示します。 Show grants for tenant role <role_name>; Show grants for tenant user <user_name>; Show principals for tenant [role] <role_name>;RAM ユーザー
MaxCompute コンソールの左側のナビゲーションウィンドウで、[テナント] > [ユーザー] を選択します。
[ユーザー] ページで、目的の RAM ユーザーを見つけ、[アクション] 列の [ロールの変更] をクリックします。
[ロールの編集] ダイアログボックスで、[利用可能なロール] セクションで目的のロールを選択し、[追加されたロール] セクションに追加します。
[OK] をクリックします。
Data Transmission Service タスクの SDK で、クォータグループを手動で指定します。
-- Data Transmission Service には、クォータ名が XXX のリソースグループを使用します。 final TableTunnel tunnel = new TableTunnel(odps); tunnel.getConfig().setQuotaName("xxx"); TableTunnel.UploadSession up = tunnel.createUploadSession(projectName, tableName); -- セッションが実際に使用しているリソースグループを取得できます。 up.getQuotaName();MaxCompute コンソールにログインできます。[クォータ管理] ページで、
QuotaNameを表示してコピーします。例:ot_42854300324****_169821756****_p#ot_42854300324****_169821756****。
リソースグループのメトリックの表示
Data Transmission Service の排他的サブスクリプションリソースグループの使用状況を表示できます。[クォータ管理] ページで、排他的リソースグループを見つけ、[リソース消費] をクリックしてメトリックページを表示します。
その他の操作
MaxCompute コンソールで次のようにリソースグループを設定できます。
MaxCompute コンソールでリソースグループを設定できる機能は、2024 年 9 月 30 日 (UTC + 08:00) に廃止されます。この機能が廃止された後にリソースグループの設定が無効になるのを防ぐには、デフォルト設定に戻してください。Data Transmission Service リソースグループを [default] に設定します。次に、リソースグループを設定します。詳細については、「Data Transmission Service の排他的リソースグループの使用」をご参照ください。
MaxCompute コンソールにログインします。上部のナビゲーションバーで、リージョンを選択します。左側のナビゲーションウィンドウで、 を選択します。
[プロジェクト管理] ページで、クォータグループをアタッチするプロジェクトを見つけ、[アクション] 列の [管理] をクリックします。[パラメーター設定] タブの [基本プロパティ] セクションで、現在のプロジェクトの Data Transmission Service の設定を表示できます。パラメーターを次の表に示します。
パラメーター
説明
Data Transmission Service のデフォルトクォータ
これは、データの読み取りと書き込みにリソースグループクォータを指定しない場合に、現在のプロジェクトで使用される Data Transmission Service のデフォルトのリソースグループです。値は通常 Default で、これは Data Transmission Service のパブリックリソースグループを示します。このパラメーターはコンソールでは変更できません。
Data Transmission Service の承認済みクォータ
このパラメーターは、プロジェクトがすべてのユーザーとロールに対して、設定済みの排他的リソースグループをデータ読み取りおよび書き込みタスクに使用することを承認したことを示します。したがって、「Data Transmission Service の排他的リソースグループの使用」で説明されているように権限を設定していなくても、プロジェクト内のデータ読み取りおよび書き込みタスクの SDK で設定済みの排他的リソースグループクォータを指定できます。プロジェクトには、1 つの排他的リソースグループしか設定できません。
Data Transmission Service の重ね合わせクォータ
これは、Data Transmission Service の排他的リソースグループの拡張機能です。これにより、排他的リソースグループと Default リソースグループを一緒に使用できます。ここで購入した排他的リソースグループを設定すると、現在のプロジェクトの最大同時実行数は、パブリックリソースグループと排他的リソースグループのリソースの合計に増加します。この機能は一部のリージョンでのみサポートされています。可用性は、コンソールに表示される内容に依存します。
説明プロジェクトには 1 つの排他的リソースグループしか設定できませんが、複数のプロジェクトに同じ排他的リソースグループを設定できます。
重ね合わせ機能を使用する場合、クォータグループに Default を指定する必要があります。Storage API 操作を使用するには、引き続き排他的リソースグループを指定する必要があります。QuotaName の形式は
ot_42854300324****_169821756****_p#ot_42854300324****_169821756***です。
[基本プロパティ] セクションで、[編集] をクリックし、必要に応じて Data Transmission Service の設定を変更します。