Web サービスやデータ処理など、Function Compute 上の汎用コンピューティングシナリオでは、通常、基本的な CPU インスタンスで十分です。しかし、オーディオ・ビデオ処理、人工知能 (AI) 推論、画像編集など、大規模な並列コンピューティングやディープラーニングを必要とするシナリオでは、GPU インスタンスを使用することでコンピューティング効率を大幅に向上させることができます。
GPU インスタンス向けに、Function Compute はエラスティックインスタンス、プロビジョニング済みインスタンス、そしてプロビジョニング済み + エラスティックインスタンス (ハイブリッドモード) の 3 種類のインスタンスタイプを提供しています。ビジネス要件に最も適したインスタンスタイプと仕様を選択することで、安定した運用を確保しながら、リソースの利用率とパフォーマンスを最大化できます。
インスタンスタイプの選択
CPU 関数は Elastic Instances のみをサポートします。GPU 関数は、サービス中断なしでいつでも切り替えることができる 3 つのインスタンスタイプをサポートします。
意思決定ガイド
以下の質問を参考にして、適切なインスタンスタイプを見つけてください。
ワークロードは遅延の影響を受けやすく、インタラクティブですか？ たとえば、リアルタイムチャットボットや画像生成 API などです。その場合は、プロビジョニング済みインスタンスを使用してコールドスタートをなくし、応答時間を保証します。
トラフィックは予測可能なベースラインに従い、時折急増しますか？ その場合は、混合モード (プロビジョニング済み + 弹性インスタンス) を使用して、安定したベースライン容量を維持しながらトラフィックバーストを吸収します。
トラフィックは変動が激しい、バースト的、または低頻度ですか？ その場合は、弹性インスタンスを使用し、アクティブな使用量に対してのみ料金を支払います。
インスタンスタイプの比較
弹性インスタンス | プロビジョニング済みインスタンス | プロビジョニング済み + エラスティック (混合モード) | |
適用対象 | CPU 関数 (唯一のオプション)、GPU 関数 | GPU 関数のみ | GPU 関数のみ |
コールドスタート | はい、最小インスタンス数が 0 の場合。最小インスタンス数を 1 以上に設定してリソースを事前割り当てし、コールドスタートを削減します。 | なし。割り当てられた容量内のすべてのリクエストは、リアルタイム応答を受け取ります。 | 部分的。プロビジョニング済みプール内のリクエストにはコールドスタートがありませんが、弹性スケールアウトインスタンスにはあります。 |
課金モデル | 従量課金 | サブスクリプション | サブスクリプション (プロビジョニング済み部分) + 従量課金 (弹性部分) |
最適な用途 | 変動が激しい、または低頻度のトラフィック、コスト重視のワークロード | 遅延の影響を受けやすい、または安定したトラフィックのワークロード | 予測可能なベースラインと予測不能なトラフィックバーストがあるワークロード |
弹性インスタンス
弹性インスタンスはリクエスト量に応じて自動的にスケールし、アイドル状態になるとリリースされます。最小インスタンス数を 0 に設定すると、完全な従量課金モデルとなり、アクティブな使用量に対してのみ料金を支払うことになります。
コールドスタートの動作： インスタンスがゼロからスケールアップするときにコールドスタートが発生します。コールドスタートの遅延を削減するには、最小インスタンス数を 1 以上に設定します。これにより、弹性リソースが事前割り当てされ、インスタンスが受信リクエストを迅速に処理できるようになります。
課金： コストには、アクティブ状態と Shallow Hibernation 状態の両方のインスタンスに対する料金が含まれます。Shallow Hibernation では、vCPU リソースは課金されず、GPU リソースはアクティブ状態のレートの 5 分の 1 で課金されます。最小インスタンス数を 1 以上に設定する場合は、Shallow Hibernation を有効にしてアイドルコストを削減してください。
次の場合に弹性インスタンスを使用します：
トラフィックが変動的、バースト的、または低頻度である場合
実際の使用量に対してのみ料金を支払いたい場合
ワークロードが時折発生するコールドスタートの遅延を許容できる場合 (または、最小インスタンス数でそれを緩和する場合)
プロビジョニング済みインスタンス
プロビジョニング済みインスタンスは GPU 関数にのみ適用されます。事前にプロビジョニング済みリソースプールを購入し、特定の数とタイプのインスタンスを関数に割り当てます。これにより、割り当てられた容量内でのコールドスタートがなくなり、予測可能で固定のコストが実現します。
月額のプロビジョニング済みリソースプールを購入すると、プラットフォームは追加料金なしで追加のブーストインスタンスクォータを提供します。
コールドスタートの動作： なし。割り当てられた容量内のすべてのリクエストは、リアルタイム応答を受け取ります。最大同時リクエスト数 = (割り当てられたプロビジョニング済みインスタンスの数) × (インスタンスの同時実行数) + ブーストインスタンスクォータ。この制限を超えたリクエストはスロットリングされます。
課金： 購入したすべてのプロビジョニング済みリソースプールの合計サブスクリプション料金。ブーストインスタンスは課金されません。
プロビジョニング済みインスタンスは、Ada、Ada.2、Ada.3、Hopper、または Xpu.1 シリーズの GPU 関数でのみ利用可能です。
次の場合にプロビジョニング済みインスタンスを使用します：
ワークロードが遅延の影響を受けやすく、インタラクティブである場合 (例：リアルタイムチャットボットや画像生成 API)
お客様のトラフィックは安定的で予測可能です
保証された容量と一貫した応答時間が必要な場合
プロビジョニング済み + エラスティックインスタンス (混合モード)
混合モードは GPU 関数にのみ適用されます。プロビジョニング済みインスタンスと弹性インスタンスを組み合わせたものです。プロビジョニング済みプールがまず定常状態のトラフィックを処理し、リクエストがプロビジョニング済み容量を超えると、弹性インスタンスが自動的にスケールアウトします。これにより、突然のトラフィックバーストを吸収する柔軟性を備えた、保証されたベースラインが得られます。
コールドスタートの動作： 部分的。プロビジョニング済みプール内で処理されるリクエストにはコールドスタートがありません。新しい弹性インスタンスへの自動スケーリングをトリガーするリクエストでは、コールドスタートが発生します。
課金: プロビジョニング済みの部分は、購入済みのプロビジョニング済みリソースプールのクォータに対して請求されます。プロビジョニング済みのクォータを超えて起動されたエラスティックインスタンスは、アクティブなエラスティックインスタンスおよびシャローハイバネーションのエラスティックインスタンスと同じレートで、従量課金で請求されます。
次の場合に混合モードを使用します：
トラフィックに予測可能なベースラインがあるが、時折急増する場合
通常の負荷に対して安定したパフォーマンスを確保しつつ、バーストトラフィックを処理する能力が必要な場合
コストの予測可能性とスケーリングの柔軟性のバランスが必要な場合
インスタンス仕様
CPU インスタンス
vCPU (コア)
メモリサイズ (MB)
最大コードパッケージサイズ (GB)
最大関数実行時間 (s)
最大ディスクサイズ (GB)
最大帯域幅 (Gbps)
0.05～16
注意：値は 0.05 の倍数である必要があります。
128～32768
注意：値は 64 の倍数である必要があります。
10
86400
10
有効な値：
512 MB。これはデフォルト値です。
10 GB。
5
説明vCPU とメモリサイズ (GB) の比率は、1:1 から 1:4 の範囲内である必要があります。
GPU インスタンスのハードウェア仕様
インスタンスタイプ
GPU メモリ
FP16 コンピューティング性能
FP32 コンピューティング性能
インスタンスあたりの最大カード数
fc.gpu.tesla.1
16 GB
65 TFLOPS
8 TFLOPS
4 カード
fc.gpu.ampere.1
24 GB
125 TFLOPS
31.2 TFLOPS
8 カード
fc.gpu.ada.1
48 GB
119 TFLOPS
60 TFLOPS
fc.gpu.ada.2
24 GB
166 TFLOPS
83 TFLOPS
fc.gpu.ada.3
48 GB
148 TFLOPS
73.5 TFLOPS
fc.gpu.hopper.1
96 GB
148 TFLOPS
44 TFLOPS
fc.gpu.hopper.2
141 GB
148 TFLOPS
44 TFLOPS
fc.gpu.blackwell.1
32 GB
104.8 TFLOPS
104.8 TFLOPS
fc.gpu.xpu.1
96 GB
123 TFLOPS
61.5 TFLOPS
16 カード
GPU インスタンスの vCPU とメモリの設定ルール
説明複数カードリソースの計算式：合計 vCPU = カードあたりの vCPU × カード数、合計メモリ = カードあたりのメモリ × カード数。
インスタンスタイプ
vCPU (カードあたり)
カードあたりのメモリ範囲
メモリ増分
fc.gpu.tesla.1
4 コア
4～16 GB (4,096～16,384 MB)
4 GB (4,096 MB)
8 コア
8～32 GB (8,192～32,768 MB)
16 コア
16～64 GB (16,384～65,536 MB)
fc.gpu.ampere.1
8 コア
8～32 GB (8,192～32,768 MB)
16 コア
16～32 GB (16,384～32,768 MB)
fc.gpu.ada.1
fc.gpu.ada.2
fc.gpu.ada.3
4 コア
16～32 GB (16,384～32,768 MB)
8 コア
32～64 GB (32,768～65,536 MB)
16 コア
64～120 GB (65,536～122,880 MB)
fc.gpu.hopper.1
4 コア
16～32 GB (16,384～32,768 MB)
8 コア
32～64 GB (32,768～65,536 MB)
16 コア
64～96 GB (65,536～98,304 MB)
24 コア
96～120 GB (98,304～122,880 MB)
fc.gpu.hopper.2
4 コア
16～32 GB (16,384～32,768 MB)
8 コア
32～64 GB (32,768～65,536 MB)
16 コア
64～128 GB (65,536～131,072 MB)
24 コア
96～248 GB (98,304～253,952 MB)
fc.gpu.blackwell.1
4 コア
16～32 GB (16,384～32,768 MB)
8 コア
32～64 GB (32,768～65,536 MB)
16 コア
64～120 GB (65,536～122,880 MB)
24 コア
96～184 GB (98,304～188,416 MB)
fc.gpu.xpu.1
4 コア
16～48 GB (16,384～49,152 MB)
8 コア
32～96 GB (32,768～98,304 MB)
12 コア
48～120 GB (49,152～122,880 MB)
GPU インスタンスは、次のリソース仕様もサポートしています。
イメージサイズ (GB)
最大関数実行時間 (s)
ディスクサイズ
最大帯域幅 (Gbps)
ACR Enterprise Edition (Standard Edition) ：15
ACR Enterprise Edition (Premium Edition) ：15
ACR Enterprise Edition (Basic Edition) ：15
ACR Personal Edition (Free) ：15
86400
512 MB
10 GB～200 GB、10 GB 刻み
5
説明インスタンスタイプを g1 に設定することは、fc.gpu.tesla.1 に設定することと同じです。
Tesla シリーズの GPU インスタンスは、中国 (杭州) 、中国 (上海) 、中国 (北京) 、中国 (張家口) 、中国 (深圳) 、日本 (東京) 、米国 (バージニア) 、およびシンガポールの各リージョンでサポートされています。
Ada シリーズの GPU インスタンスは、中国 (北京) 、中国 (杭州) 、中国 (上海) 、中国 (深圳) 、シンガポール、および米国 (バージニア) の各リージョンでサポートされています。
GPU インスタンス仕様とインスタンス同時実行数の関係
Ada.1 GPU のメモリは 48 GB です。Tesla シリーズ GPU のメモリは 16 GB です。Function Compute は、GPU カードの全メモリを単一の GPU コンテナに割り当てます。デフォルトの GPU カードのクォータはリージョンあたり最大 30 であるため、そのリージョンでは最大 30 の GPU コンテナを同時に実行できます。
GPU 関数のインスタンス同時実行数が 1 の場合、その関数は 1 つのリージョンで最大 30 の推論リクエストを同時に処理できます。
GPU 関数のインスタンス同時実行数が 5 の場合、その関数は 1 つのリージョンで最大 150 の推論リクエストを同時に処理できます。
単一インスタンスの同時実行
リソースの利用率を向上させるために、アプリケーションのリソース要件に基づいて単一インスタンスの同時実行を設定できます。この設定では、複数のタスクが単一のインスタンスで実行され、CPU とメモリリソースを共有するため、全体的なリソース利用率が向上します。詳細については、「インスタンス同時実行数の設定」をご参照ください。
単一インスタンス、単一同時実行の実行時間
インスタンスが単一のリクエストを実行する場合、実行時間はリクエストがインスタンスに到着してからリクエストの実行が完了するまで測定されます。
単一インスタンス、複数同時実行の実行時間
インスタンスが複数のリクエストを同時に実行する場合、実行時間は最初のリクエストがインスタンスに到着してから最後のリクエストが完了するまで測定されます。このリソースの再利用はコスト削減に役立ちます。
関連ドキュメント
Function Compute の課金方法と課金対象の詳細については、「課金の概要」をご参照ください。
API を使用して関数を作成する場合、
instanceTypeパラメーターを使用してインスタンスタイプを指定できます。詳細については、「CreateFunction」をご参照ください。コンソールでインスタンスタイプと仕様を指定する方法については、「関数の作成」をご参照ください。