Container Service for Kubernetes:ACK マネージドクラスターと ACK 専用クラスターのベストプラクティス

エディション

参照

LLM 推論

• ACK に基づいて DeepSeek 蒸留モデル推論サービスをデプロイする

• ACK でモデルを迅速にデプロイする

• vLLM を使用して Qwen モデルを推論サービスとしてデプロイする

• rtp-llm を使用して Qwen モデルを推論サービスとしてデプロイする

• Triton を使用して Qwen モデルを推論サービスとしてデプロイする

• TGI を使用して Qwen モデルを推論サービスとしてデプロイする

AIGC

• AI 画像を構築し、イメージのプルを高速化する

• Knative に基づいて本番環境に Stable Diffusion サービスをデプロイする

• CPU を使用して SDXL Turbo のテキストから画像への推論を高速化する

権限付与

権限付与のベストプラクティス

クラスター

• ACK クラスターの ECS 仕様に関する推奨事項

• HA クラスター構築の推奨事項

• ACK クラスターの CIDR ブロックを計画する

• 大規模クラスターの使用に関する推奨事項

• 専用 Kubernetes クラスターの etcd の容量を増やす

ノードとノードプール

• デプロイメントセットをノードプールに関連付けるためのベストプラクティス

• プリエンティブルインスタンスベースのノードプールのベストプラクティス

• ContainerOS を使用してノードを迅速にスケールアウトする

• ノードプールに無料ノードを追加する

• Docker、containerd、および Sandboxed-Container の比較

ネットワーク

• Terway モードの大規模 ACK クラスターの NetworkPolicy 機能のパフォーマンスを向上させる

• Gateway API を使用してサービスにアクセスする

• DNS サービスのベストプラクティス

• NGINX Ingress コントローラーの使用上の注意

アプリケーション管理

• ワークロードの推奨構成

• AI 画像を構築し、イメージのプルを高速化する

• Jenkins を設定してアプリケーション配信パイプラインを構築する

• GitLab CI を使用して GitLab ランナーを実行し、Kubernetes でパイプラインを実行する

Knative

• Knative サービスのアラートを構成する

• Knative で Log Service を有効にする

• Knative でエラスティックコンテナインスタンスを使用する

• Knative で HPA を使用する

• リクエスト数に基づいてポッドの自動スケーリングを有効にする

• Knative モニタリングダッシュボードを表示する

• Knative に基づいて本番環境に Stable Diffusion サービスをデプロイする

ストレージ

• ディスクを一時ボリュームとして使用する

• ディスクボリュームの高可用性に関する推奨構成

• ブロックストレージデバイスのスロットリングのベストプラクティス

• ディスクボリュームのデータセキュリティのベストプラクティス

• ディスクボリュームを使用するステートフル アプリケーションをゾーン間で移行する

• NVMe クラウドディスクのマルチアタッチと予約の使用

• StatefulSet の永続ストレージを有効にする

• OSS 読み取り/書き込み分割のベストプラクティス

• CNFS を使用して JVM のヒープダンプを自動的に収集する

可観測性

• KubeSkoop を使用してネットワークの問題をトラブルシューティングする

• Prometheus クライアントを使用してアプリケーションを監視する

• Prometheus でアラートルールを構成するためのベストプラクティス

• SysOM を使用してコンテナのメモリの問題を特定する

コスト管理スイート

コストインサイト機能を使用してコストを管理および最適化する

自動スケーリング

• ack-autoscaling-プレースホルダーを使用して数秒以内にポッドをスケーリングする

• カスタムイメージを作成する

• 複数ゾーンにわたる迅速なスケーリングを実装する

• UnitedDeployment コントローラーに基づいてワークロードスケーリングを実装する

• ARMS APM を使用して水平ポッド自動スケーリングを有効にする

• GPU メトリックに基づいて自動スケーリングを有効にする

Service Mesh (ASM)

• ASM を使用して、ACK クラスターの仮想ノードで実行されている Elastic Container Instance ベースのポッド内のアプリケーションを管理する

• ASM を使用して、登録済み Kubernetes クラスター内のアプリケーションを管理する

• ASM サーバーレスゲートウェイを、複数クラスターへのアクセスの単一エントリポイントとして使用する

• 異なる VPC 内の複数 ACK クラスターのディザスタリカバリシナリオ (VPC ネットワーク接続用の CEN に基づく)

• ASM メトリックを使用してワークロードの自動スケーリングを実装する

• イングレスゲートウェイを使用して ASM インスタンス内の gRPC サービスにアクセスする

グラフィックアプリケーション

• Linux グラフィック アプリケーションのベストプラクティス

• Unity リモートレンダリングのベストプラクティス