中文標題產生 - Platform For AI

Model Gallery預置了中文標題產生模型，您可以直接部署該模型。針對定製化情境，您也可以使用自己的資料集對模型進行微調訓練。本文為您介紹如何在Model Gallery完成中文標題產生任務。

前提條件

已建立OSS Bucket儲存空間，具體操作請參見控制台建立儲存空間。

一、進入模型詳情頁面

進入Model Gallery頁面。
1. 登入PAI控制台。
2. 在頂部左上方根據實際情況選擇地區。
3. 在左側導覽列選擇工作空间列表，單擊指定工作空間名稱，進入對應工作空間內。
4. 在左側導覽列選擇快速开始 > Model Gallery。
在Model Gallery首頁，搜尋EasyNLP_pai_mt5_title_generation_zh，單擊對應模型卡片，進入模型詳情頁面。

二、直接部署和調試模型

部署模型服務

在模型詳情頁面，單擊模型部署。
在模型部署詳情頁面，確認部署資訊後，單擊部署。
在计费提醒對話方塊中，單擊确定。

頁面將自動跳轉到服务详情頁面。您可以在基本信息地區查看服務狀態。當状态變為运行中時，表明服務部署成功。

線上調試模型

通過控制台進行線上調試

在服务详情頁面的在线预测文字框中輸入請求資料，請求資料樣本如下。

{
    "data": ["在廣州第一人民醫院，一個上午6名患者做支氣管鏡檢查，5人查出肺癌，且4人是老煙民！專家稱，吸煙和被動吸煙是肺癌的主要元兇。"]
}

單擊发送请求。

您可以在頁面下方查看輸出結果。發送請求後，頁面底部顯示HTTP請求詳情，包含請求URL（如quickstart-20240109-gskx開頭的服務地址）、Authorization鑒權頭資訊及請求體JSON內容，可用於在控制台外通過API方式調用該模型服務。

通過Python代碼進行線上調試

查看服務的調用資訊。
1. 在服务详情頁面的资源信息地區，單擊查看调用信息。
2. 在调用信息對話方塊的公网地址调用頁簽中，查看访问地址和Token，並儲存到本地。

使用以下範例程式碼發送服務要求。

import requests
url = "<PredictionServiceEndpoint>"
token = "<PredictionServiceAccessToken>"
request_body = '{"data": ["在廣州第一人民醫院，一個上午6名患者做支氣管鏡檢查，5人查出肺癌，且4人是老煙民！專家稱，吸煙和被動吸煙是肺癌的主要元兇。"]}'
request_body = request_body.encode('utf-8')
headers = {"Authorization": token}
resp = requests.post(url=url, headers=headers, data=request_body)
print(resp.content.decode())
print("status code:", resp.status_code)

其中：url和token需要分別配置為上述步驟中儲存到本地的访问地址和Token。

系統返回結果如下所示。

{"data":["在廣州第一人民醫院,6名患者在肺癌中發現"],"is_generating":false,"duration":0.1982583999633789,"average_duration":1.1621181964874268}
status code: 200

三、微調訓練模型

（可選）準備資料集。

說明
如果您希望使用自己的資料來微調訓練模型，可以按照以下操作步驟來準備訓練資料集。
1. Model Gallery提供了訓練資料集。您可以使用預設資料集，也可以自己準備資料。訓練資料格式為：
```
{"text": "<text>", "summary": "summary"}
{"text": "<text>", "summary": "summary"}
{"text": "<text>", "summary": "summary"}
......
{"text": "<text>", "summary": "summary"}
          
```
2. 將已準備的資料上傳到OSS儲存空間，具體操作，請參見上傳檔案。
提交訓練作業。
1. 返回模型詳情頁面，具體操作，請參見一、進入模型詳情頁面。
2. 在模型训练地區，將训练设置>输出路径配置為OSS Bucket路徑，並單擊训练。本樣本使用預設資料集進行模型微調訓練。
  
  說明
  如果您準備了訓練資料集，在模型训练地區，參照模型部署及訓練操作步驟更新訓練資料集後，再單擊训练。
  
  頁面將自動跳轉到任务详情頁面。您可以單擊任务日志，查看訓練過程。訓練任務提交後，進入任務詳情頁，頁面上方顯示任務進度（建立中 → 初始化中 → 已提交 → 運行中）。單擊 任務日誌 頁簽，可在日誌輸出地區查看訓練作業的作業記錄，日誌中包含環境變數配置等資訊。

四、部署和調試微調後的模型

訓練好的模型會自動註冊到AI資產-模型管理中，您可以查看或部署對應的模型，詳情請參見註冊及管理模型。
線上調試模型，具體操作，請參見線上調試模型。