PAI-EAS は複数のアクセス方法と 2 種類の通信プロトコルを提供しており、ネットワーク要件とパフォーマンス要件に合わせて組み合わせて使用できます。
シナリオガイド
サービスのデプロイ後は、追加の設定なしで、デフォルトで HTTP 経由の共有ゲートウェイから呼び出せます。次のガイドを使用して、シナリオに応じて必要な情報をすばやく確認してください。
-
クイックスタート：サービスがすでにデプロイ済みで、デフォルトの共有ゲートウェイを使用して呼び出す場合は、「ゲートウェイ経由でサービスを呼び出す」をご参照ください。
-
その他のアクセス方法を使用する：共有ゲートウェイが要件を満たさない場合は、専用ゲートウェイ、VPC ダイレクト接続、Network Load Balancer (NLB)、サービスディスカバリ (Nacos) など、その他の選択肢とその設定について確認してください。詳細については、以下の「アクセス方法を選択する」をご参照ください。
-
gRPC プロトコルを使用する：ネットワークオーバーヘッドを低減し、推論パフォーマンスを向上させるために gRPC バイナリプロトコルを使用する場合は、「gRPC 経由で PAI-EAS 推論サービスを呼び出す」をご参照ください。
仕組み
PAI-EAS のサービス呼び出しにおける一般的なデータフローは次のとおりです。
-
クライアントがリクエストを送信：アプリケーションから PAI-EAS のサービスエンドポイントに推論リクエストを送信します。サービスエンドポイントは、ゲートウェイまたはダイレクト接続アドレスです。
-
エンドポイントのルーティング：リクエストは、選択した方法 (共有ゲートウェイ、専用ゲートウェイ、VPC ダイレクト接続、NLB、Nacos) によってバックエンドのサービスインスタンスへルーティングされます。ゲートウェイを使用する場合、ゲートウェイ層が負荷分散とルーティングを処理します。ダイレクト接続を使用する場合、クライアントがターゲットインスタンスを選択します。
-
サービスインスタンスでの処理：リクエストが PAI-EAS のサービスインスタンスに到達すると、モデルサービスプロセスが推論計算を実行し、JSON や Protobuf など、指定された形式でシリアライズされた結果を返します。
-
クライアントがレスポンスを受信：推論結果を受信した後、クライアントがデータを解析し、ビジネスロジックの処理を続けます。
アクセス方法
ユースケースに基づいてアクセス方法を選択します。
|
シナリオ |
推奨方法 |
ネットワークパス |
設定コスト |
|
迅速な検証、低トラフィックのサービス |
共有ゲートウェイ経由のインターネットまたは VPC |
無料、設定が簡単 |
|
|
高いセキュリティ、高い安定性、高トラフィック |
専用ゲートウェイ経由のインターネットまたは VPC |
ゲートウェイの作成と設定が必要です。追加料金が発生します。 |
|
|
クライアントと PAI-EAS サービスが同一 VPC 内にある低レイテンシー、高同時実行のシナリオ |
ゲートウェイを経由せず、同一 VPC 内のサービスインスタンスに直接接続 |
VPC の設定が必要です |
|
|
負荷分散を伴う高トラフィック |
NLB 経由で転送 (NLB と PAI-EAS サービスは同一 VPC 内にある必要があります) |
NLB の作成または関連付けが必要です |
|
|
既存の Nacos ベースのサービスガバナンスシステム |
Nacos 経由で登録および検出 (Nacos インスタンスと PAI-EAS サービスは同一 VPC 内にある必要があります) |
Nacos インスタンスが必要です。 |
PAI-EAS サービスに対して VPC、vSwitch、セキュリティグループを設定した後：
-
セキュリティグループルールの適用対象外：共有ゲートウェイまたは専用ゲートウェイ経由で PAI-EAS にアクセスする場合、セキュリティグループルールは適用されません。専用ゲートウェイでは、許可リストを設定してアクセスを制御できます。
-
セキュリティグループルールの適用対象：NLB、Nacos、または VPC ダイレクト接続経由で PAI-EAS にアクセスする場合、PAI-EAS からのアウトバウンドトラフィックを含むすべてのトラフィックが、セキュリティグループルールの適用対象になります。
通信プロトコル
PAI-EAS は 2 種類の通信プロトコルをサポートしています。利用可能なプロトコルは、デプロイするサービスのタイプによって異なります。
-
HTTP/JSON (デフォルト)：デプロイ後に自動的に有効になります。ほとんどのユースケースに適しています。
-
gRPC：高いパフォーマンスが求められるシナリオ、またはストリーミング推論のシナリオ向けの高性能バイナリプロトコルです。デプロイ時に手動で有効にする必要があります。
よくある質問
クロスリージョンアクセスと課金
Q：異なるリージョンからプライベートネットワーク (ゲートウェイの VPC エンドポイント) 経由でサービスにアクセスするにはどうすればよいですか？
PAI-EAS サービスとクライアントが、リージョンをまたぐ異なる VPC にある場合、アプローチはゲートウェイのタイプによって異なります。
-
アプリケーション専用ゲートウェイ：CEN や VPC ピアリング接続などのサービスを使用して、VPC 間のネットワーク接続を確立するだけで済みます。詳細については、「VPC 相互接続」をご参照ください。
-
フルマネージド専用ゲートウェイ：VPC 間のネットワーク接続の確立に加えて、クライアントの VPC を専用ゲートウェイに関連付ける必要があります。詳細については、「別の VPC からフルマネージド専用ゲートウェイにアクセスする」をご参照ください。
Q：プライベート VPC 接続でクロスリージョントラフィックを使用する場合、料金は発生しますか？ インターネットを使用する場合と比べたメリットは何ですか？
はい。プライベートネットワークでクロスリージョン接続を確立する場合でも、クロスリージョントラフィックに対する課金が発生します。具体的なコストは、使用する相互接続方法によって異なります。プライベート VPC 接続には、インターネット経由のアクセスと比べて次のメリットがあります。
-
セキュリティの強化：サービスがインターネットに公開されないため、セキュリティリスクを低減できます。
-
高速かつ低レイテンシー：プライベートネットワークにより、安定したリンク品質を確保できます。
-
トラフィックコストの削減：通常、プライベートネットワークのトラフィック料金は、インターネットトラフィック料金より低くなります。
本番環境では、クロスリージョンアクセスにプライベート VPC エンドポイントを使用することを推奨します。
サービス間呼び出し
アプリケーションを PAI-EAS コンテナにデプロイしており、他の PAI-EAS サービスを呼び出す必要がある場合は、次の点に注意してください。
-
認可要件：パブリックエンドポイントとプライベート VPC エンドポイントのどちらを使用する場合でも、すべてのリクエストのヘッダーに有効な Authorization トークンを含める必要があります。
-
失敗の一般的な原因：デフォルトでは、PAI-EAS サービスはインターネットにアクセスできません。パブリックエンドポイントを使用して他の PAI-EAS サービスを呼び出そうとすると失敗します。解決するには、「PAI-EAS サービスのネットワークアクセスを設定する」をご参照ください。401、502 などのエラーコードが発生する場合は、「付録：サービスステータスコードと一般的なエラー」を参照してトラブルシューティングしてください。
-
推奨プラクティス：PAI-EAS 内でのサービス間呼び出しには、ネットワーク接続性とセキュリティを確保するために、プライベート VPC エンドポイントを使用してください。