Pai-Megatron-Patch鏡像用於加速模型訓練。安裝前請確認使用限制和操作要點。
使用限制
安裝Pai-Megatron-Patch鏡像時，僅支援使用GPU類型的執行個體。
顯卡驅動版本在460.32及以上。
操作步驟
在DLC中安裝Pai-Megatron-Patch鏡像
DLC為開發人員和企業提供雲原生一站式深度學習訓練平台，具備靈活、穩定、易用和高效能特點。支援多種演算法架構、超大規模分布式訓練任務及自訂演算法架構，協助降本增效。
DLC支援載入自訂鏡像，簡化Pai-Megatron-Patch部署。將鏡像地址傳給DLC即可自動安裝鏡像，安裝後可在DLC上基於Pai-Megatron-Patch開展多機多卡超大規模分布式訓練。
安裝步驟如下：
登入PAI控制台。
在左側導覽列單擊工作空间列表，在工作空間列表頁面中單擊待操作的工作空間名稱，進入該工作空間。
在工作空間頁面的左側導覽列選擇模型开发与训练 > 分布式训练（DLC），單擊新建任务。
其他參數按需配置，詳情請參見建立訓練任務。
环境信息：节点镜像選擇镜像地址，並在鏡像地址框中填寫Pai-Megatron-Patch鏡像地址（DLC據此地址自動拉取鏡像）：pai-image-manage-registry.cn-wulanchabu.cr.aliyuncs.com/pai/pytorch-training:2.0-ubuntu20.04-py3.10-cuda11.8-megatron-patch-llm
资源信息：
框架選擇PyTorch。
任务资源：在資源規格列單擊
，選擇GPU類型節點（Pai-Megatron-Patch僅支援GPU執行個體），再根據算力需求選擇具體規格。
單擊确定。
在DSW中安裝Pai-Megatron-Patch鏡像
DSW為演算法開發人員提供雲端深度學習開發環境，整合JupyterLab，支援外掛程式化定製開發，無需營運配置。可直接在Notebook中編寫、調試和運行Python代碼，安裝開源架構，並使用深度最佳化的TensorFlow架構提升訓練效能。
DSW同樣支援載入自訂鏡像。將鏡像地址傳給DSW即可自動安裝Pai-Megatron-Patch，安裝後可在DSW上調試訓練加速程式。
安裝步驟如下：
登入PAI控制台。
在左側導覽列單擊工作空间列表，在工作空間列表頁面中單擊待操作的工作空間名稱，進入該工作空間。
在工作空間頁面的左側導覽列選擇模型开发与训练 > 交互式建模（DSW），單擊新建实例。
關鍵配置如下，其他參數按需配置，詳情請參見建立DSW執行個體。
资源配额：選擇公用資源（後付費）。
资源规格：單擊
，選擇GPU類型執行個體規格（Pai-Megatron-Patch僅支援GPU執行個體）。镜像：在鏡像地址框中填寫Pai-Megatron-Patch鏡像地址：
pai-image-manage-registry.cn-wulanchabu.cr.aliyuncs.com/pai/pytorch-training:2.0-ubuntu20.04-py3.10-cuda11.8-megatron-patch-llm。
單擊确定，建立DSW執行個體。
安裝後使用
安裝Pai-Megatron-Patch鏡像後，您可以在Pai-Megatron-Patch的examples檔案夾中查看樣本並使用。