PAI-EAS は、専用リソースグループと仮想リソースグループの 2 種類のリソースグループを提供します。専用リソースグループでは、専有のコンピューティングリソースを購入して管理できます。仮想リソースグループは、パブリックリソース、リソースクォータ、専用 EAS リソースなど、複数のリソースタイプを組み合わせることで、サービスの混合デプロイメントをサポートします。
専用リソースグループ
リソースタイプ
専用リソースには、サブスクリプション (前払い) と従量課金 (後払い) の 2 つの課金方式があります。
タイプ | 課金方式 | リソースグループの管理 | サポートされるリソースタイプ |
前払いリソース | サブスクリプション | マシンの購入、前払いマシンの更新、後払いマシンのリリース、リソースグループの削除を実行できます。詳細については、「専用リソースグループのマシンの管理」をご参照ください。 | EAS Dedicated Machine Subscription ページに移動します。 |
後払いリソース | 従量課金 | EAS Dedicated Machine Pay-as-you-go ページに移動します。 |
後払いの専用リソースは、サービスのデプロイに使用されているかどうかにかかわらず、購入後ただちに課金が開始されます。不要な課金を避けるため、使用していない後払いマシンは速やかにリリースしてください。
専用リソースグループの作成
AI コンピューティングリソース > リソースプール ページに移動し、EAS 推論リソース タブを選択します。
専用リソースグループ タブで、リソースグループの作成 をクリックし、次のいずれかのオプションを選択します。
[リソースグループの作成]: リソースグループのみを作成します。その後、リソースグループ詳細ページからマシンを購入します。
[サブスクリプションリソースグループの新規作成] または [従量課金リソースグループの作成]: マシンを購入すると同時にリソースグループを作成する購入ページに移動します。
購入ページで、次のパラメーターを設定します。
パラメーター
説明
[課金パターン]
サブスクリプション または 従量課金 を選択します。
[リージョンとゾーン]
リソースグループのリージョンとゾーンを選択します。
[マシン仕様]
利用可能な GPU および CPU インスタンスタイプです。利用可能なリソースの完全なリストについては、EAS Dedicated Machine Subscription または EAS Dedicated Machine Pay-as-you-go ページをご参照ください。
説明利用可能なインスタンスタイプはリージョンによって異なります。
[システムディスク]
各マシンには、追加費用なしで 200 GB のシステムディスクストレージが含まれています。容量は最大 2,000 GB まで増やすことができます (最小: 200 GB)。追加容量の課金の詳細については、「EAS の課金」をご参照ください。
説明すべてのサービスインスタンスがシステムディスクストレージを共有します。システムディスクの空き容量が少なくなると、システムはサービスインスタンスを退去させて領域を解放します。その際、システムはストレージを最も多く使用しているインスタンスから順に退去させます。インスタンスの実行時にローカルディスクディレクトリへの読み書きを行う場合は、「ストレージマウント」をご参照ください。
[buy_type]
[新規] または [アップグレード] を選択します。
[アップグレード] を選択した場合は、resource_id を設定してください。
resource_id
リストから作成済みのリソースグループ ID を選択します。
[order_num]
有効な値: 1 ～ 9999。
[期間]
サブスクリプション期間： 1か月、2か月、3か月、6か月、1年、またはカスタム期間 (サブスクリプションのみ)。
[自動更新]
サブスクリプションの有効期限が切れたときの自動更新を有効または無効にします (サブスクリプションのみ)。
支払いが完了すると、リソースが自動的に割り当てられます。リソースグループ タブでリソースグループを表示または名前変更できます。
説明(サブスクリプションのみ) 選択したリージョンのリソースが不足しているためにリソースグループの作成に失敗した場合、システムは自動的に返金注文を作成し、元の支払い方法を通じて返金が行われます。
専用リソースグループのマシンの管理
マシンの購入 |
|
マシンの更新 (サブスクリプションマシンのみ) | マシンのサブスクリプション期間を延長します。たとえば、1か月更新すると、サブスクリプションが1か月延長されます。
|
マシンのリリース | 従量課金制マシン: 専用リソースグループの詳細ページで、対象インスタンスの操作列にあるリリースをクリックします。 サブスクリプションマシン： 「EAS FAQ」をご参照ください。 |
リソース使用状況の表示 | リソースグループ タブで、対象のリソースグループ名をクリックします。次に マシンリスト タブで、各マシンの CPU、GPU、メモリ使用量、および総容量を確認します。 |
スケジューリングの無効化 | マシンが実行中状態の場合、操作列でスケジューリングの停止をクリックすると、マシンはスケジューリング不可になります。スケジューリングの再起動をクリックすると、スケジューリングが再開されます。 説明 スケジューリングを無効にした後も、マシン上で既に実行されているサービスは引き続き実行されます。ただし、サービスが再起動された場合は、リソースグループ内の別の利用可能なマシンにスケジュールされます。 |
ノードの退避 | ノードの削除 をクリックします。そのマシンにデプロイされているサービスインスタンスは自動的に停止され、リソースグループ内の他の利用可能なマシンに再デプロイされます。 重要 ノードを退避すると、マシン上で実行中のすべてのジョブが中止されます。慎重に実行してください。 |
仮想リソースグループ
仮想リソースグループは、パブリックリソース、リソースクォータ、専用 EAS リソースなど、複数のリソースタイプを組み合わせた論理的なグループです。これにより、単一のサービスを異なるリソースプール間でデプロイおよびスケジュールできます。
仮想リソースグループの作成
AI コンピューティングリソース > リソースプール ページに移動し、EAS 推論リソース タブを選択します。
仮想リソースグループ タブで、仮想リソースグループの作成 をクリックします。
サポートされているリソースタイプには、パブリックリソースグループ、EAS リソースグループ、および リソースクォータ が含まれます。公共リソースグループの場合、スポットインスタンス も選択できます。必要に応じてリソースタイプを設定し、各リソースのスケジューリング優先度を設定します (1 = 最低優先度、9 = 最高優先度)。
仮想リソースグループの使用
サービスをデプロイするときは、リソースのデプロイメント セクションで リソースタイプ を EAS リソースグループ に設定し、リソースグループ ドロップダウンリストから 仮想リソースグループ を選択します。
関連ドキュメント
モデルサービスのデプロイメント設定の詳細については、「カスタムデプロイメント」をご参照ください。
リソースグループのログ収集を設定して、EAS サービスログを SLS Logstore に保存できます。詳細については、「ログ収集の設定」をご参照ください。
よくある質問
1 つのリソースグループに複数のモデルをデプロイできますか?
はい。リソースグループに十分な容量がある限り、複数のモデルサービスをデプロイできます。
アイドル状態の EAS 専用リソースを DLC 分散トレーニングに使用できますか?
いいえ。EAS 専用リソースはサービスのデプロイメントにのみ使用でき、DLC では利用できません。