実験管理では、TensorBoard を使用して、複数のトレーニングタスクにわたる train_loss や total_flos などのメトリクスを可視化および比較できます。これにより、ファインチューニング時に最適なハイパーパラメータの組み合わせを選択できます。
前提条件
TensorBoard でメトリクスを可視化するには、まず OSS バケットを作成する必要があります。手順については、「コンソールでのバケットの作成」をご参照ください。
課金
トレーニングタスクと実験の関連付け
Model Gallery でモデルのファインチューニングタスクを作成する際、タスクを新規または既存の実験に関連付けることができます。手順は次のとおりです。
「モデル詳細」ページで、Train をクリックします。
ファインチューニング詳細ページで、Experiment Configuration セクションで、実験の関連付けを設定します。
タスクを新しい実験に関連付けるには、Create Experiment を選択し、Experiment Name と Experiment Output Path を指定します。
説明[Experiment Output Path] は、モデルや TensorBoard ログを含む、関連付けられたタスクからのすべての出力データのデフォルトパスを設定します。
タスクの出力パスをカスタマイズするには、Output Data Configuration セクションで設定します。ただし、デフォルトの TensorBoard パスを変更すると、実験の TensorBoard インスタンスでのタスク間のメトリック比較ができなくなります。デフォルトのパスを維持することを推奨します。
または、タスクをExisting Experimentsに関連付けます。
ドロップダウンリストから特定の実験 (
exp-bertなど) を選択します。
-
残りのファインチューニングタスクのパラメータを設定します。詳細については、「モデルのデプロイとトレーニング」をご参照ください。
-
Train をクリックします。
ページは、関連付けられた実験名やハイパーパラメーターなどのタスクメタデータが表示されるTask details ページにリダイレクトされます。
実験の表示と TensorBoard の起動
TensorBoard を使用して、同じ実験に関連付けられたトレーニングタスクの train_loss や total_flos などのメトリクスを比較できます。手順は次のとおりです。
-
モデルギャラリーホームページで、Job Management をクリックします。
Job Management ページの All Experiments で、目的の実験を探し、Tensorboard を Operation 列でクリックします。
TensorBoard インスタンスが自動的に起動します。
[View Tensorboard] ダイアログボックスが表示され、インスタンスの [Name]、[Output Artifact URI]、[Status]、[URL] が表示されます。インスタンスの作成中は [Status] が [Creating] となり、[URL] はハイフン (-) で表示されます。インスタンスの作成後に URL が表示されます。ダイアログボックス下部の [Delete]、[Stop]、または [Close] ボタンを使用してインスタンスを管理できます。
TensorBoard のステータスが In operation になったら、Go to をクリックします。TensorBoard インターフェイスが新しいブラウザータブで開きます。
記録される具体的なメトリクスは、モデルによって異なります。
TensorBoard でのタスクメトリクスの比較
-
[Horizontal Axis] でオプションを選択して、グラフの水平軸を変更してください。
-
[STEP]:トレーニングステップ番号。
-
[RELATIVE]:トレーニング開始からの経過時間 (時間単位)。例:0.5 時間。
-
[WALL]:絶対時刻。例:2024 年 4 月 2 日午前 10 時。
一般的なメトリクス:
-
[loss]:モデルの予測値と正解データとの差。
-
[accuracy]、[precision]、[recall]:モデルパフォーマンスメトリクス。
-
-
タスクのチェックボックスをオンまたはオフにして、比較に含めるか除外するかを選択してください。
-
タスク間でメトリクス値が類似している場合、グラフ下部中央のボタンをクリックして、最も大きな差異がある領域を拡大表示してください。
一番左のボタンをクリックして、グラフを全画面で表示してください。