Platform For AI:モデルギャラリー FAQ

Q：モデル評価で深い思考が有効になっているか確認する方法を教えてください。

モデルの説明ページで、デフォルトのデプロイ設定を確認してください。すべてのモデルは、デフォルトのデプロイ設定を使用して評価されます。

Q：トレーニング後にモデルをデプロイする方法を教えてください。

1. [PAI-Model Gallery] > [タスク管理] に移動します。

2. 完了したトレーニングタスクを見つけ、クリックして詳細ページを開きます。

3. 右上隅の[デプロイ]をクリックします。

Q：失敗したトレーニングタスクをトラブルシューティングする方法を教えてください。

トレーニングタスクが失敗した場合は、タスク診断またはログを確認してください。一般的な原因として、データセットの形式が正しくないことが挙げられます。

エラーの詳細を確認する方法は 2 つあります。

• タスク診断: [PAI-Model Gallery] で、[タスク管理] > [トレーニングタスク] に移動します。失敗したタスクをクリックして、その [タスク詳細] ページを開きます。[失敗] ステータスにカーソルを合わせると、エラーの概要が表示されます。

  

• タスクログ: [タスク管理] > [トレーニングタスク] で、[タスクログ] タブを選択すると、完全なエラーメッセージが表示されます。

  

  主なエラーメッセージと解決策は次のとおりです。

  エラー種別	エラーメッセージ	解決策
  入出力エラー	ValueError: output channel ${your OSS uri} must be directory	出力パスがファイルではなくディレクトリであることを確認してください。
  	ValueError: train must be a file	入力パスがディレクトリではなくファイルを指していることを確認してください。
  	FileNotFoundError	指定した入力パスに有効なファイルが存在することを確認してください。
  	JSONDecodeError	JSON ファイルの形式が正しいことを確認してください。
  	ValueError: Input data must be a json file or a jsonl file!	ファイルが JSON または JSONL 形式であることを確認してください。
  	KeyError: ${some key name}	モデルのドキュメントを確認し、データセット内のすべてのキーと値のペアが要件で指定された形式に一致していることを確認してください。このエラーは JSON データセットで発生することがよくあります。
  	ValueError: Unrecognized model in /ml/input/data/model/.	PyTorch がモデルファイル形式を認識できません。
  	UnicodeDecoderError	ファイルで正しい文字エンコーディングが使用されていることを確認してください。
  	Input/output error	入力パスに対する読み取り権限と、出力パスに対する書き込み権限があることを確認してください。
  	NotADirectoryError: [Errno 20] Not a directory:	指定したパスがディレクトリであることを確認してください。
  ハイパーパラメータ設定	ERROR:torch.distributed.elastic.multiprocessing.api:failed (exitcode: -9) local_rank: 0 (pid: 51) of binary: /usr/bin/python (and there are no related subprocess logs)	モデルの読み込み時にメモリ不足 (OOM) エラーが発生しています。より大きなメモリを持つインスタンスタイプを選択してください。
  	torch.cuda.OutOfMemoryError: CUDA out of memory	GPU メモリが不足しています。より大容量の VRAM を搭載した GPU インスタンスを選択するか、lora_dim や batch_size のようなメモリ消費量の多いハイパーパラメーターを減らしてください。
  	ValueError: No closing quotation	system prompt または別の文字列パラメーターに、閉じていない引用符 (") が含まれているため、トレーニングコマンドの生成ができません。すべての引用符が正しくペアになっていることを確認してください。
  インスタンスタイプのリソース構成	Exception: Current loss scale already at minimum - cannot decrease scale anymore. Exiting run	精度の問題です。モデルは BF16 形式を使用しており、Ampere 以降のアーキテクチャ (例：A10、A100) の GPU が必要です。古い GPU でトレーニングするとパラメータが FP16 に変換され、このアンダーフローエラーが発生する場合があります。
  	RuntimeError: CUDA error: uncorrectable ECC error encountered	GPU インスタンスのハードウェア障害です。トレーニングタスクを再試行してください。再度失敗する場合は、別のインスタンスタイプまたはリージョンを試してください。
  	MemoryError: WARNING Insufficient free disk space	ディスク容量が不足しています。より大きなディスク容量を持つインスタンスタイプを選択してください。
  ユーザー制限エラー	failed to compose dlc job specs, resource limiting triggered, you are trying to use more GPU resources than the threshold	GPU クォータを超過しています。トレーニングタスクはデフォルトで同時に 2 GPU までに制限されています。実行中のタスクが完了するまで待つか、チケットを送信してクォータ増加を申請してください。

Q：デプロイ済みモデルでオンラインデバッグを実行する方法を教えてください。

モデルを PAI-EAS 上のサービスとしてデプロイした後、組み込みのオンラインデバッグツールを使用できます。

1. デプロイされたサービスの検索:  [PAI-Model Gallery] > [タスク管理] > [デプロイタスク] に移動します。 PAI-EAS コンソールにリダイレクトされ、そこでデプロイされたサービスを表示できます。

   

2. デバッグツールを開く: PAI-EAS ページで目的のサービスを探し、 [操作] 列で [オンラインデバッグ] をクリックします。

   

3. リクエストの設定と送信：

   1. PAI-Model Gallery のモデル詳細ページで、必要なリクエスト形式を確認します。たとえば、BladeLLM を使用してデプロイされたモデルは、特定の JSON ボディを含む /v1/chat/completions への POST リクエストを想定している場合があります。

      

      

   2. オンラインデバッグ UI で、パス (例：/v1/chat/completions) を [Request URL] に追記します。

      

   3. モデル説明ページの例に従って [Request Body] を入力し、[Send Request] をクリックします。

Q：デプロイしたモデルを呼び出すと "503 no healthy upstream" エラーが返るのはなぜですか？

503 Service Unavailable エラーと no healthy upstream というメッセージは、サービスインスタンスのリソースが不足し、新しいリクエストを処理できないことを示します。

• 原因：インスタンスリソース (CPU、メモリ、または GPU メモリ) が使い切られており、新しいリクエストを処理する余力がありません。

• 解決策：リソース種別に応じて対応が異なります。

  • パブリックリソース：共有リソースプールが一時的に過負荷になっています。オフピーク時間帯に再試行するか、別のリージョンまたは別のインスタンス仕様に再デプロイしてください。

  • 専用リソース (EAS Resource Group)：リソースグループのスケールが不足しています。グループに十分な CPU、メモリ、GPU メモリがあることを確認してください。リソースバッファは 20% 以上を維持してください。

Q：トレーニング中に "SupportsDistributedTraining false, please set InstanceCount=1" エラーが表示されるのはなぜですか？

• 原因: 選択したモデルは分散トレーニングをサポートしていませんが、タスクは複数のノード (InstanceCount > 1) で実行するように設定されています。

• 解決策：トレーニングタスクの設定で[ノード数]を1 に設定し、タスクを再起動します。

  

Q：Model API が 404 - {'detail': 'Not Found'} を返すのはなぜですか？

考えられる原因は次のとおりです。

1. モデルサービスは API コールをサポートしていません。モデルギャラリーからデプロイされた一部のモデルは、サービス詳細ページの [Web アプリ] ボタンによる Web ベースの対話にのみ対応しています。これらのモデルは OpenAI 互換の API エンドポイントを提供しておらず、OpenAI SDK を使用して呼び出すことはできません。たとえば、PAI-DistilQwen2.5-7B-Instruct です。

2. リクエストパスが不完全または不正です。たとえば、チャット API エンドポイントは、通常 {domain}/api/predict/{service_name}/v1/chat/completions の形式です。

モデル選定 FAQ