Container Service for Kubernetes:ACK マネージドクラスターと ACK 専用クラスターのベストプラクティスの概要

カテゴリ

リファレンス

LLM 推論

• ACK に DeepSeek 蒸留モデル推論サービスをデプロイする

• ACK で大規模言語モデルを始める

• vLLM を使用して Qwen モデル推論サービスをデプロイする

• rtp-llm を使用して Qwen モデル推論サービスをデプロイする

• Triton を使用して Qwen モデル推論サービスをデプロイする

• TGI を使用して Qwen モデル推論サービスをデプロイする

AIGC

• AI イメージのビルドとプルを高速化する

• Knative に基づいて本番グレードの Stable Diffusion サービスをデプロイする

• CPU を使用して Stable Diffusion XL Turbo の text-to-image 推論を高速化する

権限付与

権限付与のベストプラクティス

クラスター

• ECS インスタンスタイプの推奨構成

• 高可用性クラスターアーキテクチャの推奨構成

• ACK マネージドクラスターのネットワーク計画

• 大規模クラスターを使用するための推奨事項

ノードとノードプール

• ノードプールデプロイメントセットのベストプラクティス

• スポットインスタンスのノードプールのベストプラクティス

• スタンドアロンノードをノードプールに移行する

• containerd、サンドボックス化されたコンテナー、および Docker ランタイムの比較

ネットワーク

• 大規模な Terway クラスターで NetworkPolicy の拡張性を最適化する

• ALB を使用して Gateway API を介してサービスを公開する

• DNS サービスのベストプラクティス

• Nginx Ingress Controller を使用するための推奨事項

アプリケーション管理

• ワークロードの推奨構成

• AI イメージのビルドとプルを高速化する

• ACK クラスターに Jenkins をデプロイしてアプリケーションをビルドおよびデプロイする

• GitLab CI を使用して GitLab Runner を実行し、パイプラインを実行する

Knative

• Knative サービスのモニタリングとアラートを有効にする

• Knative でログ収集を実装する

• ECI リソースを使用する

• Knative で HPA を使用する

• トラフィックリクエスト数に基づいてサービスの自動スケーリングを実装する

• Knative サービス監視ダッシュボードを表示する

• Knative に基づいて本番グレードの Stable Diffusion サービスをデプロイする

ストレージ

• ディスクをエフェメラルストレージボリュームとして使用する

• ディスクボリュームの推奨高可用性構成

• ブロックストレージのスロットリングのベストプラクティス

• ディスクストレージデータセキュリティのベストプラクティス

• ディスクボリュームを使用するステートフル アプリケーションをゾーン間で移行する

• NVMe ディスクにマルチアタッチと予約を使用する

• StatefulSet の永続ストレージを実装する

• OSS ストレージの読み書き分離のベストプラクティス

• CNFS を使用して異常終了から JVM ダンプファイルを自動的に収集する

可観測性

• KubeSkoop を使用してネットワークの問題を特定する

• Prometheus Client を使用してアプリケーションを監視する

• Prometheus でアラートルールを構成するためのベストプラクティス

• SysOM を使用してコンテナのメモリの問題を特定する

コスト管理スイート

Cost Insight を使用したコスト管理と最適化

Auto Scaling

• ack-autoscaling-placeholder に基づいて秒レベルのコンテナースケーリングを実装する

• カスタムイメージで弾力性を最適化する

• 複数ゾーンにまたがる迅速かつ同時なエラスティックスケールアウトを実装する

• UnitedDeployment に基づいてワークロードのスケーリングを実装する

• ARMS Application Monitoring を介して HPA ベースのエラスティックスケーリングを実装する

• GPU メトリックに基づいてエラスティックスケーリングを実装する

Service Mesh

• ASM を使用して ACK 仮想ノード上の ECI Pod アプリケーションを管理する

• ASM を使用して登録済みクラスター内のアプリケーションを管理する

• ASM サーバーレスゲートウェイを使用してマルチクラスターイングレスを実装する

• 異なる VPC 内の複数の ACK クラスターのディザスタリカバリシナリオ (CEN を介して接続された VPC ネットワーク)

• ASM メトリックを使用してワークロードの自動エラスティックスケーリングを実装する

• ASM イングレスゲートウェイを介してメッシュ内の gRPC サービスにアクセスする

グラフィカルアプリケーション

• Linux グラフィカルアプリケーションのベストプラクティス

• Unity リモートレンダリングのベストプラクティス