モデルギャラリーは、中国語のタイトルを生成するための事前学習済みモデルを提供します。このモデルを直接デプロイするか、独自のデータセットでファインチューニングして、カスタムシナリオに対応できます。本トピックでは、モデルギャラリーで中国語のタイトルを生成する方法を説明します。
前提条件
OSS バケットが必要です。詳細については、「バケットの作成」をご参照ください。
手順1:モデル詳細ページへの移動
-
モデルギャラリーページに移動します。
-
PAI コンソールにログオンします。
-
上部メニューの左上隅でリージョンを選択します。
-
左側メニューで ワークスペースリスト をクリックし、開きたいワークスペースの名前をクリックします。
-
左側メニューで、クイックスタート > [Model Gallery] を選択します。
-
-
モデルギャラリーページで、
EasyNLP_pai_mt5_title_generation_zhを検索し、モデルカードをクリックして詳細ページを開きます。
手順2:モデルのデプロイとデバッグ
サービスのデプロイ
-
モデル詳細ページで、モデルデプロイ をクリックします。
-
モデルデプロイページで、詳細を確認し、デプロイメント をクリックします。
-
課金通知 ダイアログボックスで、OK をクリックします。
ページは自動的に サービスの詳細 ページにリダイレクトされます。基本情報 セクションでサービスステータスを確認できます。ステータス が 実行中 に変わると、サービスがデプロイされます。
モデルのオンラインデバッグ
コンソールでのデバッグ
-
サービスの詳細 ページで、オンライン予測 テキストボックスにリクエストデータを入力します。以下に例を示します:
{ "data": ["At Guangzhou First People's Hospital, six patients underwent bronchoscopy in one morning. Five were diagnosed with lung cancer, and four of them were long-term smokers. Experts state that smoking and secondhand smoke are the primary causes of lung cancer."] } -
リクエストの送信 をクリックします。
レスポンスがページの下部に表示されます。ページには、リクエスト URL (quickstart-20240109-gskx で始まるサービスアドレス)、Authorization ヘッダー、JSON 形式のリクエストボディなど、HTTP リクエストの詳細も表示されます。この情報を使用して、コンソールの外部から API でサービスを呼び出すことができます。
Python コードを使用したデバッグ
-
サービスの呼び出し情報を表示します。
-
サービスの詳細 ページの リソース情報 セクションに移動し、エンドポイント情報の表示 をクリックします。
-
呼び出し情報 ダイアログボックスの Shared Gateway - インターネットエンドポイント タブで、エンドポイント と [Token] を表示してコピーします。
-
-
次のサンプルコードを使用して、サービスリクエストを送信します。
import requests url = "<PredictionServiceEndpoint>" token = "<PredictionServiceAccessToken>" request_body = '{"data": ["At Guangzhou First People\'s Hospital, six patients underwent bronchoscopy in one morning. Five were diagnosed with lung cancer, and four of them were long-term smokers. Experts state that smoking and secondhand smoke are the primary causes of lung cancer."]}' request_body = request_body.encode('utf-8') headers = {"Authorization": token} resp = requests.post(url=url, headers=headers, data=request_body) print(resp.content.decode()) print("status code:", resp.status_code)urlとtokenには、前の手順でコピーした エンドポイント と [Token] をそれぞれ設定します。次の結果が返されます:
{"data":["Six patients diagnosed with lung cancer at Guangzhou First People's Hospital"],"is_generating":false,"duration":0.1982583999633789,"average_duration":1.1621181964874268} status code: 200
手順3:モデルのファインチューニング
-
(任意) データセットを準備します。
説明独自のデータを使用してモデルをファインチューニングする場合は、次の手順に従ってトレーニングデータセットを準備してください。
-
モデルギャラリーは、デフォルトのトレーニングデータセットを提供します。デフォルトのデータセットを使用することも、独自のデータセットを準備することもできます。トレーニングデータは、次の形式にする必要があります:
{"text": "<text>", "summary": "summary"} {"text": "<text>", "summary": "summary"} {"text": "<text>", "summary": "summary"} ...... {"text": "<text>", "summary": "summary"} -
準備したデータを OSS バケットにアップロードしてください。詳細については、「オブジェクトのアップロード」をご参照ください。
-
-
トレーニングジョブを送信します。
-
モデル詳細ページに戻ります。詳細については、「手順1:モデル詳細ページへの移動」をご参照ください。
-
モデルトレーニング セクションで、トレーニング設定 > 出力パス をご使用の OSS バケットパスに設定し、トレーニング をクリックします。この例では、デフォルトのデータセットを使用してモデルをファインチューニングします。
説明トレーニングデータセットを準備した場合は、モデルのデプロイとトレーニングの手順に従って モデルトレーニング セクションでデータセットを更新し、トレーニング をクリックしてください。
自動的に タスク詳細 ページにリダイレクトされます。タスクのステータスはページの上部に表示され、Creating → Initializing → Submitted → Running の順に変わります。タスクログ タブをクリックすると、環境変数の設定などの情報を含むトレーニングジョブの実行ログを表示できます。
-
手順4:ファインチューニング済みモデルのデプロイとデバッグ
-
ファインチューニング済みのモデルは AI Assets - Model Management に自動的に登録され、表示またはデプロイできます。詳細については、「モデルの登録と管理」をご参照ください。
-
モデルをオンラインでデバッグするには、「モデルのオンラインデバッグ」をご参照ください。