Alibaba Cloud Model Studio：模型匯入

使用前提

匯入前，請確保滿足以下條件：

• OSS Bucket 準備：已建立 OSS Bucket，並為目標 Bucket 添加標籤。

  說明

  • 支援的 OSS Bucket 儲存類型不包括歸檔、冷歸檔或深度冷歸檔。支援內容加密的 Bucket。支援私人的Bucket。

  • 不支援訪問OSS Bucket根目錄下的檔案，請您在OSS Bucket下選擇已有的子目錄或建立一個子目錄供阿里雲百鍊訪問。

  • 支援匯入任意大小的模型檔案，匯入後將使用阿里雲百鍊提供的免費儲存空間。

• 模型檔案準備：模型檔案需符合匯入要求與限制。模型檔案夾需直接放在 OSS Bucket 中，系統會自動識別。

支援匯入的基本模型

當前支援匯入以下基本模型的 LoRA 微調版本：

操作步驟

按照以下步驟將 LoRA 模型從 OSS 匯入到百鍊平台：

1. 在我的模型頁面，點擊导入模型按鈕。

2. 在匯入模型頁面中，填寫以下資訊：

   • 模型名稱：輸入模型的顯示名稱，最多50個字元。

   • 基本模型：選擇該 LoRA 模型對應的基本模型。

   • 匯入來源：當前僅支援"從OSS匯入"，系統已預設選中。

   • Bucket：選擇儲存模型檔案的 OSS Bucket。

3. 確認資訊無誤後，點擊确定提交匯入請求。系統將自動驗證模型檔案格式和完整性，驗證通過後開始匯入。匯入完成後，您可以在我的模型頁面查看匯入的模型，並進行部署、增量訓練等操作。

匯入要求與限制

匯入 LoRA 模型前，請確保滿足以下要求：

• 必需檔案：OSS Bucket 中需包含以下檔案：

  • adapter_model.safetensors：LoRA 適配器的權重檔案，採用 SafeTensors 格式儲存。

  • adapter_config.json：LoRA 適配器的設定檔，包含 rank、alpha 等關鍵參數資訊。

• rank 參數限制：rank 值必須為 8、16、32 或 64 中的一個，且同一模型的所有 LoRA 層必須使用相同的 rank 值。

• 修改詞彙表的模型：如果訓練過程中添加了新 token 或修改了原始詞彙表（vocab），該模型無法匯入。系統要求使用與基本模型完全一致的詞彙表。

• 修改對話模板的模型：如果訓練過程中修改了 chat_template 配置，該模型無法匯入。系統僅支援使用與對應開源基本模型預設配置一致的 chat_template。

  chat_template 配置通常位於以下位置：

  • 模型的 config.json 檔案中的 chat_template 欄位。

    

  • tokenizer_config.json 檔案中的 chat_template 欄位。

    

• 未凍結 VIT 的視覺語言模型：對於 VL（Vision-Language）模型，必須凍結 Vision Transformer（VIT）部分。如果 LoRA adapter 中包含 visual 相關的權重參數（即未凍結 VIT），該模型無法匯入。

  可以運行以下代碼判斷。

  from safetensors import safe_open
  import argparse
  
  def print_safetensor_structure(file_path):
      print(f"Loading safetensor file: {file_path}")
      print("="*80)
      
      with safe_open(file_path, framework="pt") as f:
          keys = f.keys()
          print(f"Found {len(keys)} tensors in the file:\n")
          
          for key in sorted(keys):
              tensor = f.get_tensor(key)
              shape = tuple(tensor.shape)
              dtype = str(tensor.dtype)
              device = tensor.device if hasattr(tensor, 'device') else 'cpu'
              
              lora_tag = " [LoRA]" if "lora_A" in key or "lora_B" in key else ""
              
              print(f"[{dtype:>14}] {shape} | {key} {lora_tag}")
  
  if __name__ == "__main__":
      parser = argparse.ArgumentParser(description="Print structure of a .safetensors LoRA adapter.")
      parser.add_argument("filepath", type=str, help="Path to the .safetensors file")
      args = parser.parse_args()
  
      print_safetensor_structure(args.filepath)

  判斷方法：檢查 adapt_model.safetensors 檔案中是否包含 visual 相關的權重參數。如果檔案中存在以 visual 開頭的參數鍵（例如 visual.encoder.layer.0...），說明 VIT 部分未被凍結，該模型無法匯入。

  

  

常見問題