DLC MNIST訓練最佳實務

前提條件

• 首次使用AutoML功能時，需要完成AutoML相關許可權授權。具體操作，請參見雲產品依賴與授權：AutoML。

• 已完成DLC相關許可權授權，授權方法詳情請參見雲產品依賴與授權：DLC。

• 已建立工作空間並關聯了通用計算資源公用資源群組。具體操作，請參見建立及管理工作空間。

• 已開通OSS並建立OSS Bucket儲存空間，詳情請參見控制台快速入門。

步驟一：建立資料集

1. 將指令檔mnist.py上傳到已建立的OSS Bucket儲存空間中。具體操作，請參見控制台快速入門。

2. 建立OSS類型的資料集，用於儲存超參數調優實驗產生的資料檔案。具體操作，請參見建立及管理資料集。

   其中關鍵參數說明如下，其他參數使用預設配置：

   • 数据集名称：自訂資料集名稱。

   • 选择数据存储：選擇指令檔所在的OSS儲存目錄。

   • 属性：選擇檔案夾。

步驟二：建立實驗

進入新建實驗頁面，並按照以下操作步驟配置關鍵參數，其他參數配置詳情，請參見建立實驗。參數配置完成後，單擊提交。

1. 設定執行配置。

   本方案提供單機訓練、分布式訓練以及嵌套參數訓練三種訓練方式，您可以選擇其中一種訓練方式。

   執行配置中，任務類型選擇DLC；資源群組選擇公用資源群組；架構選擇PyTorch；資料集選擇test_automl；節點鏡像選擇PAI平台鏡像，鏡像為pytorch-training:1.12pai-gpu-py38-cu113-ubuntu20.04；機器規格選擇CPU，規格為16vCPU+64GB Mem ecs.g6.4xlarge；節點數量為1；節點啟動命令為python3 /mnt/data/mnist.py --save_model=/mnt/data/examples/search/model/model_${exp_id}_${trial_id} --batch_size=${batch_size} --lr=${lr}；超參數包含batch_size（choice類型，搜尋空間[16,32,64]）和lr（choice類型，搜尋空間[0.0001,0.001,0.01]）。

   單機訓練參數配置說明

   參數	描述
   任务类型	選擇DLC。
   资源组	選擇公共资源组。
   框架	選擇PyTorch。
   数据集	選擇步驟一中已建立的資料集。
   节点镜像	選擇PAI平台镜像 > pytorch-training:1.12PAI-gpu-py38-cu113-ubuntu20.04。
   机器规格	選擇CPU > ecs.g6.4xlarge。
   节点数量	設定為1。
   启动命令	配置為python3 /mnt/data/mnist.py --save_model=/mnt/data/examples/search/model/model_${exp_id}_${trial_id} --batch_size=${batch_size} --lr=${lr}。
   超參數	batch_size 約束類型：選擇choice。 搜尋空間：單擊，增加3個枚舉值，分別為16，32和64。 lr 約束類型：選擇choice。 搜尋空間：單擊，增加3個枚舉值，分別為0.0001、0.001和0.01。 使用上述配置可以產生9種超參數組合，後續實驗會分別為每種超參數組合建立一個Trial，在每個Trial中使用一組超參數組合來運行指令碼。

   執行配置中，任務類型選擇DLC，資源群組選擇公用資源群組，架構選擇PyTorch，資料集選擇test_automl，節點鏡像選擇PAI平台鏡像 pytorch-training:1.12pai-gpu-py38-cu113-ubuntu20.04，機器規格選擇CPU 16vCPU+64GB Mem（ecs.g6.4xlarge），節點數量設為3。節點啟動命令使用 python -m torch.distributed.launch 進行分布式訓練，命令中引用 $MASTER_ADDR 等環境變數及 ${batch_size}、${lr} 超參數預留位置。底部超參數表格中，batch_size 約束類型為choice，搜尋空間為 [16,32,64]；lr 約束類型為choice，搜尋空間為 [0.0001,0.001,0.01]。

   分布式訓練參數配置說明

   參數	描述
   任务类型	選擇DLC。
   资源组	選擇公共资源组。
   框架	選擇PyTorch。
   数据集	選擇步驟一中已建立的資料集。
   节点镜像	選擇PAI平台镜像 > pytorch-training:1.12PAI-gpu-py38-cu113-ubuntu20.04。
   机器规格	選擇CPU > ecs.g6.4xlarge。
   节点数量	設定為3。
   启动命令	配置為python -m torch.distributed.launch --master_addr=$MASTER_ADDR --master_port=$MASTER_PORT --nproc_per_node=1 --nnodes=$WORLD_SIZE --node_rank=$RANK /mnt/data/mnist.py --data_dir=/mnt/data/examples/search/data --save_model=/mnt/data/examples/search/pai/model/model_${exp_id}_${trial_id} --batch_size=${batch_size} --lr=${lr}。
   超參數	batch_size 約束類型：選擇choice。 搜尋空間：單擊，增加3個枚舉值，分別為16、32和64。 lr 約束類型：選擇choice。 搜尋空間：單擊，增加3個枚舉值，分別為0.0001、0.001和0.01。 使用上述配置可以產生9種超參數組合，後續實驗會分別為每種超參數組合建立一個Trial，在每個Trial中使用一組超參數組合來運行指令碼。

   執行配置表單中，任務類型選擇DLC，資源群組選擇公用資源群組，架構選擇PyTorch，資料集選擇test_automl，節點鏡像選擇PAI平台鏡像 pytorch-training:1.12pai-gpu-py38-cu113-ubuntu20.04，機器規格選擇CPU 16vCPU+64GB Mem ecs.g6.4xlarge，節點數量設為1。節點啟動命令填寫 python3 /mnt/data/mnist.py 及相關參數。超參數表格中添加兩行：nested_params約束類型為choice，搜尋空間為嵌套JSON配置；gamma約束類型為choice，搜尋空間為[0.8,0.7,0.9]。

   嵌套參數訓練參數配置說明

   參數	描述
   任务类型	選擇DLC。
   资源组	選擇公共资源组。
   框架	選擇PyTorch。
   数据集	選擇步驟一中已建立的資料集。
   节点镜像	選擇PAI平台镜像 > pytorch-training:1.12PAI-gpu-py38-cu113-ubuntu20.04。
   机器规格	選擇CPU > ecs.g6.4xlarge。
   节点数量	設定為1。
   启动命令	配置為python3 /mnt/data/mnist.py --save_model=/mnt/data/examples/search/pai/model/model_${exp_id}_${trial_id} --batch_size=${nested_params}.{batch_size} --lr=${nested_params}.{lr} --gamma=${gamma}。
   超參數	nested_params 約束類型：選擇choice。 搜尋空間：單擊，增加2個枚舉值，分別為{"_name":"large","{lr}":{"_type":"choice","_value":[0.02,0.2]},"{batch_size}":{"_type":"choice","_value":[256,128]}}和{"_name":"small","{lr}":{"_type":"choice","_value":[0.01,0.1]},"{batch_size}":{"_type":"choice","_value":[64,32]}}。 gamma 約束類型：選擇choice。 搜尋空間：單擊，增加3個枚舉值，分別為0.8、0.7和0.9。 使用上述配置可以產生9種超參數組合，後續實驗會分別為每種超參數組合建立一個Trial，在每個Trial中使用一組超參數組合來運行指令碼。

2. 設定Trial配置。

   參數		描述
   最佳化指標	指標類型	選擇stdout。表示最終指標從運行過程中的stdout中提取。
   	計算方式	選擇best。
   	指標權重	配置如下： key：validation: accuracy=([0-9\\.]+)。 Value：1。
   	指標來源	命令關鍵字配置為cmd1。
   	最佳化方向	選擇越大越好。
   模型儲存路徑		設定為儲存模型的OSS路徑。本方案配置為oss://examplebucket/examples/model/model_${exp_id}_${trial_id}。

3. 設定搜尋配置。

   參數	描述
   搜尋演算法	選擇TPE。演算法詳情說明，請參見支援的搜尋演算法。
   最大搜尋次數	配置為3。表示該實驗允許啟動並執行最多Trial個數為3個。
   最大並發量	配置為2。表示該實驗允許並行啟動並執行最多Trial個數為2個。
   開啟earlystop	開啟開關。如果一個Trial在評估一組特定的超參數組合時發現效果明顯很差，則會提前終止該Trial的評估過程。
   start step	配置為5。表示該Trial在最早執行完5次評估後，可以決定是否提前停止。

步驟三：查看實驗詳情和運行結果

1. 在實驗列表中，單擊目標實驗名稱，進入實驗詳情頁面。

   實驗詳情頁麵包含四個地區：基本配置（顯示實驗ID、名稱、可見範圍、狀態、建立人、建立時間和更新時間）、Trial 狀態統計（以環形圖展示已完成、已失敗、運行中和其他狀態的Trial數量）、Trial 配置（包含指標類型、計算方式、指標權重Regex、指標來源和模型儲存路徑）和搜尋配置（包含搜尋演算法、最大搜尋次數、最大並發量、最佳化方向和EarlyStop設定）。

   在該頁面，您可以查看Trial的執行進度和狀態統計。實驗根據配置的搜尋演算法和最大搜尋次數自動建立3個Trial。

2. 單擊Trial列表，您可以在該頁面查看該實驗自動產生的所有Trial列表，以及每個Trial的執行狀態、最終指標和超參數組合。

相關文檔

• 您也可以提交MaxCompute計算資源的超參數調優實驗，詳情請參見MaxCompute K均值聚類最佳實務。

• 關於AutoML更詳細的使用方法和原理介紹，請參見自動機器學習（AutoML）。