Platform For AI:中国語のタイトルの生成

前提条件

OSS バケットが必要です。詳細については、「バケットの作成」をご参照ください。

ステップ1：モデル詳細ページへの移動

1. モデルギャラリーページに移動します。

   1. PAI コンソールにログインします。

   2. 上部メニューの左上で、リージョンを選択します。

   3. 左側メニューで Workspaces をクリックし、開きたいワークスペースの名前をクリックします。

   4. 左側メニューで、Quick Start > [Model Gallery] を選択します。

2. モデルギャラリーページで、EasyNLP_pai_mt5_title_generation_zh を検索し、モデルカードをクリックして詳細ページを開きます。

ステップ2：モデルのデプロイとデバッグ

サービスのデプロイ

1. Deploy をクリックします。

2. モデルデプロイページで詳細を確認し、Deploy をクリックします。

3. Billing Notification ダイアログボックスで、OK をクリックします。

   ページは自動的に Service details ページにリダイレクトされます。Basic Information セクションでサービスステータスを確認できます。Status が Running に変わると、サービスはデプロイ済みとなります。

オンラインでのモデルのデバッグ

コンソールでのデバッグ

1. Service details ページで、Online Prediction テキストボックスにリクエストデータを入力します。以下に例を示します。

   {
       "data": ["“在广州市第一人民医院，一个上午竟有6位患者在做支气管镜检查时，查出肺癌，其中有5个是肺癌。而这5个肺癌患者中，有4个是长期吸烟者。专家表示，吸烟和二手烟是导致肺癌的主要原因。”"]
   }

2. Send Request をクリックします。

   レスポンスがページ下部に表示されます。ページには、リクエスト URL (quickstart-20240109-gskx で始まるサービスアドレス)、[Authorization] ヘッダー、JSON 形式のリクエストボディなど、HTTP リクエストの詳細も表示されます。この情報を使用して、コンソール外から API 経由でサービスを呼び出します。

Pythonコードを使用したデバッグ

1. サービスの呼び出し情報を表示します。

   1. Service details ページの Resource Information セクションで、View Call Information をクリックします。

   2. Call Information ダイアログボックスの Public network address call タブで、Endpoint と [Token] を確認し、コピーします。

2. 次のサンプルコードを使用して、サービスリクエストを送信します。

   import requests
   url = "<PredictionServiceEndpoint>"
   token = "<PredictionServiceAccessToken>"
   request_body = '{"data": ["“在广州市第一人民医院，一个上午竟有6位患者在做支气管镜检查时，查出肺癌，其中有5个是肺癌。而这5个肺癌患者中，有4个是长期吸烟者。专家表示，吸烟和二手烟是导致肺癌的主要原因。”"]}'
   request_body = request_body.encode('utf-8')
   headers = {"Authorization": token}
   resp = requests.post(url=url, headers=headers, data=request_body)
   print(resp.content.decode())
   print("status code:", resp.status_code)
   

   url と token を、それぞれ前の手順でコピーした[Endpoint]とトークンに設定します。

   次の結果が返されます。

   {"data":["广州市第一人民医院多名患者被诊断出患有肺癌"],"is_generating":false,"duration":0.1982583999633789,"average_duration":1.1621181964874268}
   status code: 200

ステップ3：モデルのファインチューニング

1. (任意) データセットを準備します。

   説明

   独自のデータを使用してモデルをファインチューニングする場合は、次の手順に従ってトレーニングデータセットを準備します。

   1. モデルギャラリーでは、デフォルトのトレーニングデータセットを提供しています。デフォルトのデータセットを使用することも、独自に準備することもできます。トレーニングデータは次の形式である必要があります。

      {"text": "<text>", "summary": "summary"}
      {"text": "<text>", "summary": "summary"}
      {"text": "<text>", "summary": "summary"}
      ......
      {"text": "<text>", "summary": "summary"}
                

   2. 準備したデータを OSS バケットにアップロードします。詳細については、「オブジェクトのアップロード」をご参照ください。

2. トレーニングジョブを送信します。

   1. モデル詳細ページに戻ります。詳細については、「ステップ1：モデル詳細ページへの移動」をご参照ください。

   2. Model Training セクションで、Job Configuration > Output Path を OSS バケットのパスに設定し、Fine-tune をクリックします。この例では、デフォルトのデータセットを使用してモデルをファインチューニングします。

      説明

      トレーニングデータセットを準備した場合は、「モデルのデプロイとトレーニング」の手順に従って Model Training セクションのデータセットを更新し、Fine-tune をクリックします。

      自動的に Task details ページにリダイレクトされます。タスクのステータスはページの上部に表示され、Creating → Initializing → Submitted → Running の順に進みます。Task log タブをクリックすると、環境変数の設定などの情報を含むトレーニングジョブの実行ログを表示できます。

ステップ4：ファインチューニング済みモデルのデプロイとデバッグ

1. トレーニング済みのモデルは、AI アセット - モデル管理に自動的に登録されます。ファインチューニング済みモデルを表示またはデプロイできます。詳細については、「モデルの登録と管理」をご参照ください。

2. モデルをオンラインでデバッグするには、「オンラインでのモデルのデバッグ」をご参照ください。