クラスター、ネットワーキング、ストレージ、スケーリング、可観測性などに関する独立したガイドです。
LLM 推論
| ガイド |
|---|
| ACK での DeepSeek 蒸留モデル推論サービスのデプロイ |
| ACK での大規模言語モデル (LLM) の使用開始 |
| vLLM を使用した Qwen モデル推論サービスのデプロイ |
| rtp-llm を使用した Qwen モデル推論サービスのデプロイ |
| Triton を使用した Qwen モデル推論サービスのデプロイ |
| TGI を使用した Qwen モデル推論サービスのデプロイ |
AIGC
| ガイド |
|---|
| AI イメージのビルドとプルの高速化 |
| Knative に基づく本番環境レベルの Stable Diffusion サービスのデプロイ |
| CPU を使用した Stable Diffusion XL Turbo の Text-to-Image 推論の高速化 |
権限承認
| ガイド |
|---|
| 認可のベストプラクティス |
クラスター
| ガイド |
|---|
| ECS インスタンスタイプの推奨構成 |
| 高可用性クラスターアーキテクチャの推奨構成 |
| ACK マネージドクラスターのネットワーク計画 |
| 大規模クラスターの使用に関する推奨事項 |
ノードとノードプール
| ガイド |
|---|
| ノードプールデプロイメントセットのベストプラクティス |
| スポットインスタンスのノードプールのベストプラクティス |
| スタンドアロンノードのノードプールへの移行 |
| containerd、サンドボックスコンテナ、Docker ランタイムの比較 |
ネットワーキング
| ガイド |
|---|
| 大規模 Terway クラスターにおける NetworkPolicy の拡張性の最適化 |
| ALB を使用した Gateway API 経由でのサービスの公開 |
| DNS のベストプラクティス |
| Nginx Ingress Controller の使用に関する推奨事項 |
アプリケーション管理
| ガイド |
|---|
| ワークロードの推奨構成 |
| AI イメージのビルドとプルの高速化 |
| ACK クラスターへの Jenkins のデプロイによるアプリケーションのビルドとデプロイ |
| GitLab CI を使用した GitLab Runner の実行とパイプラインの実行 |
Knative
| ガイド |
|---|
| Knative サービスのモニタリングとアラートの有効化 |
| Knative でのログ収集の実装 |
| ECI リソースの使用 |
| Knative での HPA の使用 |
| トラフィックリクエスト数に基づく自動サービススケーリングの実装 |
| Knative サービスモニタリングダッシュボードの表示 |
| Knative に基づく本番環境レベルの Stable Diffusion サービスのデプロイ |
ストレージ
可観測性
| ガイド |
|---|
| KubeSkoop を使用したネットワーク問題の特定 |
| Prometheus Client を使用したアプリケーションのモニタリング |
| Prometheus でのアラートルールの構成に関するベストプラクティス |
| SysOM を使用したコンテナのメモリ問題の特定 |
コスト管理スイート
| ガイド |
|---|
| Cost Insight を使用したコスト管理と最適化 |
Auto Scaling
Service Mesh
グラフィカルアプリケーション
| ガイド |
|---|
| Linux グラフィカルアプリケーションのベストプラクティス |
| Unity リモートレンダリングのベストプラクティス |