Container Service for Kubernetes：應用分發概述

支援對於Workload的靜態權重和動態調度

在多叢集應用分發情境中，艦隊執行個體提供基於分發策略驅動的副本調度機制。支援兩種維度工作負載副本分配策略：

• 靜態權重分配策略：叢集管理員可以通過配置分發策略賦予目的地組群不同的權重係數，調度器按照歸一化權重值按比例分配副本。詳細配置方式，請參見replicaScheduling參數說明。

• 動態資源比例分配策略：調度器會根據各個叢集的可用資源來計算最多容納Pod的數量，並以此數量作為叢集的權重來確定最終的副本分配數。詳細配置方式，請參見動態分發和重調度。

支援重調度

在多叢集應用分發情境中，由於叢集可用資源的動態變化，工作負載可能會因優先順序不足或資源不足等原因導致調度失敗。當目的地組群的工作負載處於調度失敗狀態時，重調度器會將調度失敗的副本進行重新調度，並執行跨叢集的副本遷移操作，從而確保工作負載的正常運行。重調度能力預設啟用，若您需要驗證重調度能力，請參見驗證重調度能力。

支援應用層級的故障遷移

在多叢集任務作業情境中，通過線上業務和離線作業混部可以提升資源使用率。為避免離線作業對線上業務造成影響，任務作業通常以低優先順序運行，或使用Spot搶佔執行個體。在這種情況下，任務可能會因為節點異常、高優先順序Pod搶佔、Spot執行個體釋放等原因運行失敗。

針對以上問題，艦隊執行個體提供應用層級的容錯移轉。當作業任務運行失敗時，故障遷移會自動將該目的地組群的作業任務遷移到其他叢集繼續運行，無需手動幹預。詳細步驟請參見如何在艦隊執行個體中使用KubeQueue並通過Gang調度PyTorchJob。

支援多叢集Gang調度

Gang調度主要用於確保一組關聯的Pod能夠同時調度到叢集中的節點上，若無法滿足該條件，則這些Pod都不會被調度。這一機制解決了原生調度器無法支援All-or-Nothing作業調度的問題。多叢集Gang調度則是從多叢集角度出發，採用預占或動態資源檢測的方式，將作業的一組關聯Pod都運行在同一叢集內。

在使用PyTorchJob、TFJob等實現多機多卡分布式訓練，或者使用SparkApplication運行Spark任務時，由於其Master-Worker或Driver-Executor的架構，組件間需要相互連信，所以需要使用多叢集Gang調度來將這些作業調度到同一叢集內運行。

ACK One艦隊通過支援多叢集Gang調度，並與重調度和故障遷移能力相結合，保障AI作業可在資源充足的叢集中正常運行。更多詳情請參見作業分發。