Function Compute:インスタンスタイプと仕様

選択ガイド

以下の質問を参考にして、適切なインスタンスタイプを見つけてください。

• ワークロードは遅延の影響を受けやすく、インタラクティブですか？ たとえば、リアルタイムチャットボットや画像生成 API などです。その場合は、プロビジョニング済みインスタンスを使用してコールドスタートをなくし、応答時間を保証します。

• トラフィックは予測可能なベースラインに従い、時折スパイクが発生しますか？ その場合は、ハイブリッドモード (プロビジョニング済み + Elastic インスタンス) を使用して、安定したベースライン容量を維持しながらトラフィックのバーストに対応します。

• トラフィックは変動が激しい、バースト的、または低頻度ですか？ その場合は、Elastic インスタンスを使用し、アクティブな使用量に対してのみ料金を支払います。

インスタンスタイプの比較

Elastic インスタンス

Elastic インスタンスはリクエスト量に応じて自動的にスケーリングし、アイドル状態になるとリリースされます。最小インスタンス数を 0 に設定すると、完全な従量課金モデルとなり、アクティブな使用量に対してのみ料金が発生します。

コールドスタートの動作： コールドスタートは、インスタンスがゼロからスケールアップする際に発生します。コールドスタートの遅延を減らすには、最小インスタンス数を 1 以上に設定します。これにより、Elastic リソースが事前割り当てされ、インスタンスが受信リクエストを迅速に処理できるようになります。

課金： コストには、アクティブ状態と Shallow Hibernation 状態の両方のインスタンスの料金が含まれます。Shallow Hibernation では、vCPU リソースは課金されず、GPU リソースはアクティブ料金の 5 分の 1 で課金されます。最小インスタンス数を 1 以上に設定する場合は、Shallow Hibernation を有効にしてアイドルコストを削減してください。

次のような場合に Elastic インスタンスを使用します：

• トラフィックが変動しやすい、バースト的、または低頻度である場合

• 実際の使用量に対してのみ支払いたい場合

• ワークロードが時折発生するコールドスタートの遅延を許容できる場合 (または最小インスタンス数でそれを緩和する場合)

プロビジョニング済みインスタンス

プロビジョニング済みインスタンスは GPU 関数にのみ適用されます。事前にプロビジョニング済みリソースプールを購入し、特定の数とタイプのインスタンスを関数に割り当てます。これにより、割り当てられた容量内でのコールドスタートがなくなり、予測可能で固定のコストが実現します。

月額のプロビジョニング済みリソースプールを購入すると、プラットフォームは追加料金なしで追加のブーストインスタンスクォータを提供します。月額のプロビジョニング済みリソースプールを購入すると、プラットフォームはサブスクリプションベースのプロビジョニング済みインスタンスに加えて、一定のクォータのブーストインスタンスを割り当てます。このブーストインスタンスクォータは課金されません。

コールドスタートの動作： なし。割り当てられた容量内のすべてのリクエストはリアルタイムで応答されます。最大同時リクエスト数 = (割り当てられたプロビジョニング済みインスタンス数) × (インスタンスの同時実行数) + ブーストインスタンスクォータ+ ブーストインスタンスクォータ。この上限を超えるリクエストはスロットリングされます。

課金： 購入したすべてのプロビジョニング済みリソースプールの合計サブスクリプション料金。ブーストインスタンスは課金されません。。ブーストインスタンスクォータは課金されません

プロビジョニング済みインスタンスは、Ada、Ada.2、Ada.3、Hopper、または Xpu.1 シリーズの GPU 関数でのみ利用可能です。

次のような場合にプロビジョニング済みインスタンスを使用します：

• ワークロードが遅延の影響を受けやすく、インタラクティブである場合 (例：リアルタイムチャットボットや画像生成 API)

• トラフィックが安定しており、予測可能である場合

• 保証された容量と一貫した応答時間が必要な場合

プロビジョニング済み + Elastic インスタンス (ハイブリッドモード)

ハイブリッドモードは GPU 関数にのみ適用されます。プロビジョニング済みインスタンスと Elastic インスタンスを組み合わせたもので、プロビジョニング済みプールがまず定常トラフィックを処理し、リクエストがプロビジョニング済み容量を超えると Elastic インスタンスが自動的にスケールアウトします。これにより、突然のトラフィックバーストに対応できる柔軟性を備えた、保証されたベースラインが得られます。

コールドスタートの動作： 部分的。プロビジョニング済みプール内で処理されるリクエストにはコールドスタートはありません。新しい Elastic インスタンスへのオートスケーリングをトリガーするリクエストでは、コールドスタートが発生します。

課金： プロビジョニング済み部分は、購入したプロビジョニング済みリソースプールのクォータに対して課金されます。プロビジョニング済みクォータを超えて起動された Elastic インスタンスは、アクティブおよび Shallow Hibernation の Elastic インスタンスと同じレートで従量課金制で課金されます。

次のような場合にハイブリッドモードを使用します：

• トラフィックに予測可能なベースラインがあるが、時折スパイクが発生する場合

• 通常の負荷に対して安定したパフォーマンスを確保しつつ、バーストトラフィックに対応できる能力が必要な場合

• コストの予測可能性とスケーリングの柔軟性のバランスが必要な場合

GPU インスタンスの仕様とインスタンスの同時実行数の関係

Ada.1 GPU のメモリは 48 GB、Tesla シリーズ GPU のメモリは 16 GB です。Function Compute は、GPU カードの全メモリを単一の GPU コンテナに割り当てます。デフォルトの GPU カードクォータはリージョンあたり最大 30 であるため、そのリージョンでは最大 30 の GPU コンテナが同時に実行できます。

• GPU 関数のインスタンス同時実行数が 1 の場合、その関数はリージョン内で最大 30 の推論リクエストを同時に処理できます。

• GPU 関数のインスタンス同時実行数が 5 の場合、その関数はリージョン内で最大 150 の推論リクエストを同時に処理できます。