調度策略決定排隊任務的出隊順序,影響算力資源使用率。選擇合適的調度策略可提高任務出隊效率。
背景資訊
PAI 提交到資源配額(Quota)中的每個任務都有優先順序,取值為1~9,數字越大優先順序越高。當多個任務同時請求算力資源時,按優先順序排隊等待執行。
為提高算力資源使用效率,PAI在資源配額維度提供了多種排隊策略。選擇不同的排隊策略會影響任務的執行順序,但不影響已開始執行的任務。
調度策略
配置資源配額時,支援以下調度策略,各策略的實現原理如下:
FIFO策略
如果隊列中的第一個任務無法出隊,系統將反覆嘗試對第一個任務進行出隊操作,而不會跳過。
遍曆策略
如果隊列中的第一個任務無法出隊,則會跳過該任務,然後依次嘗試對後續隊列中的任務進行出隊操作。
均衡策略
如果隊列中的第一個任務無法出隊,系統將反覆嘗試對第一個任務進行出隊操作,不會跳過。
如果第一個任務等待出隊時間超過預定時間(一般為幾分鐘),則系統會按照遍曆策略嘗試對第一個任務和第二個任務進行出隊操作。
如果第二個任務等待出隊時間也超過預定時間,系統會對第一個、第二個和第三個任務按照遍曆策略嘗試出隊操作,依次類推。
智能策略
當調度策略選擇智能策略時,系統將根據設定的任務優先順序自動選擇合適的執行策略:
對於優先順序在7至9之間的任務,則採用FIFO策略進行調度。
對於優先順序在1至6之間的任務,則採用遍曆策略進行調度,並且這些任務在隊列中的位置將隨著排隊時間的增加而逐步前移,最多可前移至6級任務的位置。
其中:Item1、Item2優先順序≥7;Item3~ItemN優先順序<7。
相關文檔
在建立資源配額時,可根據調度策略原理選擇合適的策略。具體操作,請參見資源配額(Quota)功能介紹。