Platform For AI:AutoML

背景情報

機械学習では、ハイパーパラメーターはモデルのトレーニングに使用される一連のパラメーターです。機械学習の前にハイパーパラメーターを設定する必要があります。モデルのハイパーパラメーターを設定すると、モデルのトレーニング中はハイパーパラメーターは変更されません。

HPO は、最適なハイパーパラメーターを見つけるプロセスです。モデルに複数のハイパーパラメーターがある場合、ハイパーパラメーターは多次元ベクトルと見なされます。 HPO は、このモデルのベクトル値のすべての範囲で、損失関数の最小値など、最適なモデル パフォーマンスを提供する特定のベクトル値を見つけます。

たとえば、モデルに 2 つのハイパーパラメーター A と B があるとします。 A の可能な値は a、b、c で、B の可能な値は d と e です。この場合、モデルには 6 つのハイパーパラメーターの組み合わせがあります。 HPO は、モデルが最適なパフォーマンスを達成できるようにする A と B の特定の組み合わせを見つけます。最適なハイパーパラメーターの組み合わせを取得するには、同じデータセットに基づいてモデル トレーニングに A と B の 6 つの組み合わせを個別に使用します。次に、組み合わせのモデル パフォーマンスを比較します。

AutoML の HPO

ハイパーパラメーターの微調整は、大量のモデル ハイパーパラメーターと、さまざまなデータ型とハイパーパラメーターの値の範囲が関係するため、複雑です。たとえば、モデルには複数のハイパーパラメーターがあり、一部のハイパーパラメーターは整数型で、一部のパラメーターは浮動小数点型です。この場合、手動のハイパーパラメーター調整には大量のコンピューティング リソースが必要であり、タスクを完了するには自動システムが必要です。 AutoML の HPO 機能は、さまざまなハイパーパラメーターを自動的に微調整するのに役立ちます。

AutoML を使用すると、シンプルで効率的、かつ正確な方法でハイパーパラメーターを微調整できます。 AutoML の利点は次のとおりです。

• 簡素化された微調整: AutoML は、自動ツールを使用してハイパーパラメーターの微調整プロセスを大幅に簡素化し、時間を節約します。

• モデル品質の向上: AutoML は PAI の複数のアルゴリズムを統合して、最適なハイパーパラメーターの組み合わせをすばやく見つけます。これにより、より正確かつ効率的な方法でモデルをトレーニングできます。

• コンピューティング リソースの削減: AutoML はトレーニング中にモデルのパフォーマンスを評価して、現在のトレーニングを終了して別のハイパーパラメーターの組み合わせを評価するかどうかを判断します。 AutoML を使用すると、すべての組み合わせを評価することなく、最適なハイパーパラメーターの組み合わせを取得できます。これにより、コンピューティング リソースを節約できます。

• コンピューティング能力の柔軟な使用: AutoML を使用すると、DLC および MaxCompute リソースを便利かつ柔軟に使用できます。

シナリオ

AutoML は、機械学習のすべてのハイパーパラメーター微調整シナリオに適しています。機械学習の一般的なシナリオを次に示します。

• ユーザーが有料ユーザーかどうかを判断するなど、バイナリ分類タスク。

• ユーザーが 7 日以内に行う支払い額を推定するなど、回帰タスク。

• 都市にある化粧品ブランドの支店数を決定するなど、クラスタリング タスク。

• ランキング モデルと取得モデルの微調整、または曲線下面積 (AUC) メトリックの改善など、推奨タスク。

• 画像の多重分類とビデオの多重分類の精度を向上させるなど、ディープラーニング タスク。

参照

• AutoML のしくみ

  (推奨) このトピックでは、AutoML のしくみと、実験、試行、およびトレーニング タスクの関係について説明します。これは、概念を理解し、構成を容易にするのに役立ちます。

• 実験を作成する

  このトピックでは、PAI コンソールで実験を作成する方法と、主要なパラメーターを構成する方法について説明します。

• AutoML のユースケース

  このトピックでは、AutoML を使用してハイパーパラメーターを微調整する方法のユースケースを紹介します。