Container Service for Kubernetes：ACK託管與專有叢集最佳實務匯總

分類

相關文檔

LLM推理

• 基於ACK部署DeepSeek蒸餾模型推理服務

• 在ACK中快速體驗大語言模型

• 使用vLLM部署Qwen模型推理服務

• 使用rtp-llm部署Qwen模型推理服務

• 使用Triton部署Qwen模型推理服務

• 使用TGI部署Qwen模型推理服務

AIGC

• AI鏡像構建及拉取加速方案

• 基於Knative部署生產層級的Stable Diffusion服務

• 使用CPU加速Stable Diffusion XL Turbo的文生圖推理

授權

授權最佳實務

叢集

• ECS執行個體規格配置建議

• 叢集高可用架構推薦配置

• ACK託管叢集網路規劃

• 大規模叢集使用建議

節點與節點池

• 節點池部署集最佳實務

• 搶佔式執行個體節點池最佳實務

• 遷移游離節點至節點池

• containerd、安全沙箱、Docker運行時的對比

網路

• 最佳化大規模Terway叢集NetworkPolicy的擴充性

• 通過ALB使用Gateway API暴露服務

• DNS最佳實務

• Nginx Ingress Controller使用建議

應用管理

• 工作負載推薦配置

• AI鏡像構建及拉取加速方案

• 在ACK叢集中部署Jenkins並完成應用構建和部署

• 使用GitLab CI運行GitLab Runner並執行Pipeline

Knative

• 為Knative服務開啟監控警示

• 在Knative上實現日誌採集

• 使用ECI資源

• 在Knative中使用HPA

• 基於流量請求數實現服務自動擴縮容

• 查看Knative服務監控大盤

• 基於Knative部署生產層級的Stable Diffusion服務

儲存

• 使用雲端硬碟作為臨時儲存卷

• 雲端硬碟儲存卷的高可用配置建議

• Block Storage限速最佳實務

• 雲端硬碟儲存資料安全最佳實務

• 跨可用性區域遷移使用雲端硬碟儲存卷的有狀態應用

• 使用NVMe雲端硬碟多重掛載及Reservation

• 實現StatefulSet的持久化儲存

• OSS儲存讀寫分離最佳實務

• 通過CNFS自動收集異常退出的JVM轉儲檔案

可觀測性

• 使用KubeSkoop定位網路問題

• 使用Prometheus Client監控應用

• 使用Prometheus配置警示規則的最佳實務

• 使用SysOM定位容器記憶體問題

成本套件

使用成本洞察實現成本管理及最佳化

Auto Scaling

• 基於ack-autoscaling-placeholder實現容器秒級伸縮

• 彈性最佳化之自訂鏡像

• 實現多可用性區域同時快速彈性擴容

• 基於UnitedDeployment實現工作負載的伸縮

• 通過ARMS APM應用監控服務實現HPAAuto Scaling

• 基於GPU指標實現Auto Scaling

服務網格

• 通過ASM管理ACK虛擬節點上的ECI Pod應用

• 通過ASM管理註冊叢集應用

• 使用ASM Serverless網關實現多叢集入口

• 不同VPC下多ACK叢集的容災情境（基於CEN連通VPC網路）

• 使用ASM指標實現工作負載的自動Auto Scaling

• 通過ASM入口網關訪問網格內gRPC服務

圖形化應用

• Linux圖形應用最佳實務

• Unity遠程渲染最佳實務