在PAI子產品DLC、DSW或EAS中掛載NAS/CPFS資料集,可以統一儲存訓練代碼、輸入資料和結果檔案。通用型NAS檔案系統適合大多數訓練和部署情境。
前提條件
已建立通用型NAS檔案系統。具體操作,請參見建立檔案系統。
步驟一:建立NAS資料集
在EAS中掛載NAS資料無需額外操作。在DLC和DSW中,您可以直接掛載NAS資料,也可以掛載NAS資料集。掛載資料集時,需提前建立NAS類型資料集。關鍵配置如下:
地區必須與DLC、DSW執行個體、EAS服務以及資料和代碼的儲存地區保持一致。
參數 | 描述 | |
資料集配置 | 儲存類型 | 選擇檔案儲存體(通用型NAS)。 |
版本配置 | 檔案系統 | 配置為已建立NAS檔案系統的ID。登入NAS控制台,在目標地區查看檔案系統ID;也可以在下拉式清單中查看已有的檔案系統ID。 |
檔案系統路徑 | NAS的掛載路徑,配置為 | |
預設掛載路徑 | NAS在DLC任務或DSW執行個體中的掛載路徑,配置為 | |
步驟二:使用NAS資料集
建立NAS資料集後,在DLC、DSW或EAS中掛載該資料集,即可讀取NAS檔案系統中的資料。
在DLC中掛載NAS資料集
建立分布式訓練(DLC)任務時,在環境資訊地區綁定NAS儲存。關鍵參數配置如下:
參數 | 描述 |
数据集挂载 | 單擊自訂資料集,選擇通用型NAS資料集,並配置掛載路徑。DLC任務運行時會按該路徑訪問NAS資料。通過是否唯讀開關可以設定讀寫權限,避免誤寫訓練資料。 |
存储挂载 | 單擊通用型NAS,設定檔系統參數,並配置掛載路徑,將資料集掛載到DLC容器的指定路徑。DLC任務運行時會按該路徑訪問NAS資料。通過是否唯讀開關可以設定讀寫權限,避免誤寫訓練資料。 在進階配置中設定nconnect參數,可以提升DLC容器訪問NAS的吞吐效能。nconnect是NFS用戶端的Linux掛載選項,通過增加用戶端與伺服器之間的TCP串連數來提升吞吐。建議設定為4。 使用已開啟本機快取的靈駿智算資源配額時,可以開啟使用緩衝開關。緩衝能減少重複讀取NAS資料的延遲,提升訓練效率。 |
在DSW中掛載NAS資料集
在建立DSW執行個體時,綁定NAS類型資料集。關鍵參數配置如下:
資料集掛載:通過以下兩個參數掛載資料集。
自訂資料集:單擊
,選擇已建立的檔案儲存體-通用型NAS資料集。掛載路徑:選擇資料集後,系統會自動關聯資料集中配置的掛載路徑。在DSW開發環境中,您可以通過該路徑訪問NAS檔案系統中的資料。
工作目錄:預設將系統硬碟目錄掛載到 /mnt/workspace。您也可以在下拉式清單中選擇已掛載的資料集,系統會同步掛載到DSW工作目錄 /mnt/workspace 中。
在EAS中掛載NAS資料集
在部署EAS服務時,綁定NAS類型資料集。關鍵參數配置如下:
在環境資訊地區完成模型配置,掛載類型選擇通用型NAS,並配置以下參數:
選擇檔案系統:選擇NAS檔案系統。
檔案系統掛載點:選擇掛載點。EAS服務通過掛載點訪問NAS檔案系統。
檔案系統路徑:NAS中需要掛載的源路徑,即NAS執行個體內部的檔案系統路徑。
掛載路徑:掛載到服務執行個體的目標路徑,用來讀取NAS路徑中的檔案。