購買靈駿智算資源或通用運算資源後,您必須建立資源配額,以階層式結構管理和隔離資源。資源配額可控制不同團隊或專案的資源使用限制。配額綁定至工作空間後,該工作空間即可將其用於 AI 開發和服務推論。
前提條件
新增資源配額
PAI 支援兩種類型的資源配額:靈駿智算資源配額(需要設定 VPC、vSwitch 和安全性群組)以及通用運算資源配額(無需網路設定)。
建立資源配額時,您可以從資源池中的專屬資源群組配置資源以建立根層級配額,或從現有配額配置資源以建立子配額。
靈駿智算資源:所有節點必須使用相同的 Hz 值,以確保節點之間的高速網路互連。
登入 PAI 主控台,並前往 AI 運算資源 > 資源配額頁面。
在靈駿智算資源或通用運算資源頁籤中,按一下新增資源配額。
-
設定基本資訊:
參數
說明
名稱
輸入資源配額的名稱。
關聯工作空間
選取要綁定資源配額的工作空間。綁定後,該配額僅能在該工作空間中使用。
說明-
每個配額僅能綁定一個工作空間,不支援跨工作空間共用。
-
您可以暫時略過綁定,稍後再從配額詳情頁面進行綁定。
標籤
為執行個體新增標籤,以進行多維度搜尋、篩選、批次操作及成本分攤。
-
-
設定配額資源資訊:
參數
說明
來源類型
-
專屬資源群組:從資源池中的專屬資源群組配置資源,以建立根層級配額。
-
現有資源配額:從現有配額配置資源,以建立子配額。
如需瞭解父配額與子配額之間的關係,請參閱資源配額概觀。
來源
選取現有配額或專屬資源群組。
節點/執行個體類型
按一下新增,然後從現有配額或專屬資源群組中選取節點或規格。
-
-
設定排程資訊:
參數
說明
排程策略
選取排程策略以提高資源使用率。支援的策略包括:智慧、均衡、輪詢和 FIFO。如需更多資訊,請參閱排程策略。
子層級搶佔
啟用後,當資源不足時,目前配額中排隊的作業可以搶佔子配額中正在執行的作業。如需更多資訊,請參閱啟用子層級搶佔。
同層級搶佔
啟用後,當資源不足時,目前配額中排隊的作業可以搶佔同層級配額中正在執行的作業。如需更多資訊,請參閱啟用同層級搶佔。
閒置共用
預設為啟用。啟用後,同層級和子配額中的閒置資源可被此配額中的作業借用。
-
設定網路資訊(僅靈駿智算資源配額需要此設定),以允許配額中的執行個體存取指定的 VPC 網路資源:
參數
說明
VPC
選取現有的 VPC。
安全性群組
選取現有的安全性群組。
vSwitch
選取現有的 vSwitch。
-
按一下確定。
配額建立完成後,將顯示在資源配額清單中。
使用資源配額
綁定工作空間
資源配額必須先綁定至工作空間,才能在該工作空間中用於 AI 開發和服務推論。若要將配額綁定至工作空間:
在資源配額頁面中,按一下目標配額的名稱。
在概覽頁籤中,找到基本資訊區段,然後按一下工作空間旁的
以新增或修改工作空間綁定。
您也可以從工作空間端綁定資源配額,以達到相同的效果:
登入 PAI 主控台,前往目標工作空間的詳情頁面,然後按一下工作空間設定 > 運算資源設定。
選取靈駿智算資源或通用運算資源頁籤。在可用資源清單中,選取配額並按一下確認關聯。
配額和工作空間必須位於相同區域。單一工作空間可以關聯多個配額。
綁定完成後,您可以在工作空間詳情頁面的排程設定中設定配額使用策略。如需更多資訊,請參閱工作空間排程中心。
在設定工作空間頁面中,按一下排程設定頁籤。在資源使用區段中,您可以檢視和修改以下設定:資源使用模組、資源使用角色、資源使用配額和資源規格範本。
存取公用網路
若要啟用公用網路存取(例如提取自訂映像或下載第三方套件和模型),請設定 NAT 閘道的 SNAT 功能並綁定彈性公用 IP 位址(EIP)。如需更多資訊,請參閱使用網際網路 NAT 閘道的 SNAT 功能存取網際網路。
選取映像
使用靈駿智算資源配額進行分散式訓練(DLC)時,需要協調伺服器、網路、驅動程式和訓練框架。建議使用 PAI 官方映像,或基於官方映像建立自訂映像。
如果您使用自有映像,可能需要適配驅動程式、框架和軟體版本,以充分發揮靈駿智算資源的高效能能力。