Container Service for Kubernetes:Knative の概要

シナリオ

説明

Web サービスホスティング

• デプロイの簡素化: ACK Knative は、低レベルの Kubernetes の詳細を抽象化し、Knative サービスを通じてワークロードのデプロイを簡素化します。

• バージョン管理の簡素化： リビジョンメカニズムは、各リビジョンに一意の識別子を付与し、バージョン管理とロールバックを実現します。

• カナリアリリースにおけるトラフィック分割の簡素化: ACK Knative は、カナリアリリース、A/B テスト、およびその他のデプロイ戦略において、リビジョンサービスにトラフィックの割合を割り当てます。

サーバーレスアプリケーション

• ビジネスロジックへの集中： 開発者は IaaS リソースではなくビジネスロジックに集中することで、アプリケーション構成を簡素化し、インフラストラクチャの運用コストを削減できます。

• オンデマンドのリソース使用量とオートスケーリング: ACK Knative は、トラフィックとコンカレンシーに基づいてリソースをスケーリングし、トラフィックがない場合はインスタンスをゼロにスケールします。

AI ワークロード

• ビジネスロジックへの集中： GPU やその他のヘテロジニアスコンピューティングシナリオにおいて、開発者は基盤となるインフラストラクチャを維持することなく、AI タスクをビルドおよびデプロイできます。

• オンデマンドのリソース使用量と自動スケーリング： ACK Knative はワークロードに基づいてリソースをスケーリングし、需要が変動する推論サービスのコストを削減します。

• ポータビリティ: ACK Knative は、クラウド、オンプレミスのデータセンター、エッジデバイスなど、あらゆる Kubernetes 互換環境で実行できます。

イベント駆動ワークロード

Knative Eventing は外部システムからイベントを取り込みます。たとえば、IoT デバイスはセンサーデータを Knative サービスに送信できます。データを受信してストレージ、リアルタイム分析、またはモニタリングとアラートをトリガーするように、ACK Knative イベントソースを設定します。

ステップ

説明

前提条件

バージョン 1.22 以降の ACK マネージドクラスター。クラスターをアップグレードするには、「クラスターを手動でアップグレードする」をご参照ください。

Knative コンポーネントのデプロイと管理に従って、ACK Knative をデプロイし、Knative Serving をインストールします。

「Knative ゲートウェイの選択」に従って、ゲートウェイを選択してデプロイします。

• ALB：Alibaba Cloud ALB をベースとしたフルマネージドゲートウェイです。自動スケーリングによる大容量トラフィック管理を提供し、運用保守のオーバーヘッドがありません。

• ASM：Istio と互換性のあるマネージドプラットフォームで、統一されたトラフィック管理を実現します。トラフィックシェーピング、メッシュの可観測性、安全なサービス間通信をサポートし、ヘテロジニアスコンピューティングインフラストラクチャ上で実行されるサービスの管理を支援します。

• Kourier：Knative コミュニティが提供する軽量オープンソースゲートウェイで、Envoy 上に構築されています。基本的なルーティングおよびサービス検出機能を提供します。

サービスのデプロイと管理

リソースタイプの指定

• デフォルトでは、Knative Service は ECS リソースを使用して実行されます。

• トラフィックのバーストに対応するために ECI Pod を実行するには、「Knative での ECI リソースの使用」をご参照ください。

• トラフィックのバーストに対応するために ACS Pod を実行するには、「ACS リソースの使用」をご参照ください。

• AI 推論サービスなどのシナリオで GPU を使用するには、「Knative での GPU の使用」をご参照ください。

• クラスター内に ECS リソースと ECI リソースの両方が存在する場合、「Knative での ECS リソースと ECI リソースの両方の使用」に従って、ResourcePolicy でスケーリングの順序を宣言します。

• クラウドコンピューティングコストを削減するには、「プリエンプティブルインスタンスの使用」をご参照ください。

• 低スペックのバースト可能なインスタンスをアクティブな状態に保ち、コストと起動時間のバランスを取るには、「予約インスタンスの構成」をご参照ください。

自動スケーリング

• リクエストレート (QPS) に基づいて自動スケーリングするには、「トラフィックリクエスト数に基づくサービスへの KPA の実装」をご参照ください。

• 履歴メトリクスからの予測スケーリングと Cron 式によるスケジュールに基づくスケーリングを行うには、「Knative と AHPA を使用したスケジュール自動スケーリングの実装」をご参照ください。

• CPU メトリクスのしきい値に基づいてスケーリングするには、「Knative での HPA の使用」をご参照ください。

バージョン管理とカナリアリリース

• ロールバックなどのバージョン管理を行うには、「リビジョンの作成」をご参照ください。

• リビジョンにトラフィックの割合を割り当ててカナリアリリースを実行するには、「トラフィック分割に基づくカナリアリリースの実行」をご参照ください。

Knative Service へのアクセス

• デフォルトの Knative Service ドメインは {route}.{namespace}.{default-example.com} で、{default-example.com} がデフォルトのサフィックスです。サフィックスをカスタマイズするには、「カスタムドメインとパスの構成」をご参照ください。

• カスタムドメインの場合、データ転送を保護するために、「HTTPS 経由でサービスにアクセスするための証明書の構成」をご参照ください。

• Liveness Probe と Readiness Probe を使用してサービスの正常性と可用性を監視するには、「Knative でのポートプロービングの構成」をご参照ください。

高度な機能

イベント駆動： 外部イベントソース、ルーティング、サブスクリプション、フィルタリングを含むサーバーレスイベントモデルについては、「Knative Eventing」をご参照ください。

Knative Functions： Kubernetes クラスター内で関数を作成、デプロイ、呼び出すには、「Knative Functions のデプロイ」をご参照ください。

AI 推論サービス

• トレーニング済みモデル (TFServing、TorchServe、Triton など) をモデルサービングランタイム上で提供するには、「KServe に基づく推論サービスの迅速なデプロイ」をご参照ください。

• ACK は、Knative での AI モデル推論のベストプラクティスを提供しています。モデルデプロイの高速化、GPU 共有スケジューリングの構成などが含まれます。詳細については、「Knative での AI モデル推論サービスのデプロイに関するベストプラクティス」をご参照ください。

サービスメッシュ： Service Mesh (ASM) を Knative Service と統合することで、トラフィック管理とサービスのセキュリティを強化できます。

可観測性とコスト管理

ログ収集： ログデータの収集、消費、配信、クエリ、分析を非介入で行うには、SLS を使用して「Knative Service からのログの収集」をご参照ください。

モニタリングダッシュボード： 応答レイテンシー、リクエスト同時実行数などについて、Managed Service for Prometheus で「Knative Service モニタリングダッシュボードの表示」をご参照ください。

モニタリングとアラート： SLS のログに基づくアラートルールを使用して「Knative Service のアラート構成」をご参照ください。

リソース使用状況とコスト配賦を表示するには、「Knative Service のコストインサイト機能の有効化」をご参照ください。