Platform For AI:スコアカードトレーニング

スコアカードトレーニングには、次の概念が含まれます。

• 特徴量エンジニアリング

  スコアカードモデルと標準線形モデルの主な違いは、トレーニング前にデータに適用される特徴量エンジニアリングのプロセスです。Scorecard Training コンポーネントは、2 つの特徴量エンジニアリングメソッドを提供します。

  • Binning コンポーネントを使用して特徴を離散化します。次に、ビニング結果に基づいて各変数に One-Hot エンコーディングを適用し、N 個のダミー変数を生成します。ここで、N は変数のビンの数です。

    説明

    ダミー変数変換を使用する場合、各元の変数のダミー変数間に制約を設定できます。詳細については、「ビニング」をご参照ください。

  • Binning コンポーネントを使用して特徴を離散化し、Weight of Evidence (WOE) 変換を実行します。これにより、変数の元の値が、その変数が分類されるビンの WOE 値に置き換えられます。

• スコア変換

  信用スコアリングでは、線形変換によって予測されたサンプルのオッズがスコアに変換されます。この変換では、通常、次の数式が使用されます。次の 3 つのパラメーターを使用して線形変換を指定できます。

  • scaledValue：ベースラインスコア。

  • odds：指定されたベースラインスコアでのオッズ値。

  • pdo (Points to Double Odds)：odds 値を 2 倍にするためにスコアを増加させる必要のあるポイント数。

  たとえば、scaledValue=800、odds=50、pdo=25 の場合、線上の 2 つのポイントは次のように定義されます。

  log(50)=a×800+b
  log(100)=a×825+b

  a と b を解くことで、線形変換をモデルのスコアに適用して、最終的な変数スコアを取得できます。

  次の例に示すように、-Dscale パラメーターを使用して、スケーリング情報を JSON 形式で指定します。

  {"scaledValue":800,"odds":50,"pdo":25}

  -Dscale パラメーターが空でない場合は、scaledValue、odds、および pdo の値を指定する必要があります。

• トレーニング制約

  スコアカードトレーニングは、変数への制約の追加をサポートしています。たとえば、特定のビンのスコアを固定値に設定したり、2 つのビンのスコア間に比例関係を強制したり、ビン間のスコアの範囲を制限したり、ビンのスコアを WOE 値に従って順序付けたりすることができます。基礎となる制約付き最適化アルゴリズムがこれらの制約を実装します。Binning コンポーネントで制約を視覚的に構成すると、JSON 形式の条件が生成され、ダウンストリームのトレーニングコンポーネントに自動的に渡されます。スコアカード実験の Binning ノードのパラメーター設定パネルで、[特徴列] (STRING、BIGINT、DOUBLE 型をサポート)、[ラベル列] (値はクラス)、および [正例ラベル] を 1 に設定します。次に、[ビニング用のカスタム JSON ファイル] オプションを選択し、制約ファイル (例：binning.txt) をアップロードします。制約 JSON は、単一行、単一列のテーブルに文字列として格納されます。システムは、次の 6 種類の JSON 制約をサポートしています。

  • "<": 変数の重みが昇順になるように強制します。

  • ">": 変数の重みが降順になるように強制します。

  • "=": 変数の重みを固定値に設定します。

  • "%": 変数の重み間に比例関係を強制します。

  • "UP": 変数の重みの上限を設定します。たとえば、値が 0.5 の場合、トレーニングされた重みは 0.5 を超えることはできません。

  • "LO": 変数の重みの下限を設定します。たとえば、値が 0.5 の場合、トレーニングされた重みは 0.5 以上である必要があります。

  このテーブルには、STRING 型の単一の列が含まれている必要があります。次のコードは、JSON 文字列のサンプルを示しています。

  {
      "name": "feature0",
      "<": [
          [0,1,2,3]
      ],
      ">": [
          [4,5,6]
      ],
      "=": [
          "3:0","4:0.25"
      ],
      "%": [
          ["6:1.0","7:1.0"]
      ]
  }

• 組み込みの制約

  各元の変数には、指定する必要のない暗黙的な制約があります。母集団全体における単一変数の平均スコアはゼロであるという制約です。この制約により、モデルの切片の scaled_weight は、母集団全体の平均スコアを表します。

• 最適化アルゴリズム

  詳細オプションで最適化アルゴリズムを構成できます。システムは、次の 4 つの最適化アルゴリズムをサポートしています。

  • L-BFGS：大規模な特徴データセットをサポートする一次最適化アルゴリズムです。これは制約なしの最適化アルゴリズムであり、指定された制約を自動的に無視します。

  • ニュートン法：高速な収束と高い精度で知られる古典的な二次アルゴリズムです。ただし、二次ヘッセ行列を計算する必要があるため、大規模な特徴には適していません。これも制約なしの最適化アルゴリズムであり、指定された制約を無視します。

  • バリア法：二次最適化アルゴリズムです。制約がない場合、ニュートン法と同じです。その計算性能と精度は SQP に似ています。

  • SQP

    SQP は、制約をサポートする二次最適化アルゴリズムです。制約がない場合、ニュートン法と同じです。一般的に、パフォーマンスがバリア法に似ているため、SQP の使用を推奨します。

  説明

  • L-BFGS とニュートン法は、制約なしの最適化アルゴリズムです。バリア法と SQP は、制約付きの最適化アルゴリズムです。

  • 最適化アルゴリズムに詳しくない場合は、最適化アルゴリズムを [自動選択] に設定することを推奨します。システムは、データサイズと制約に基づいて最適なアルゴリズムを自動的に選択します。

• 特徴選択

  トレーニングコンポーネントは、ステップワイズ特徴選択をサポートしています。このメソッドは、フォワードセレクションとバックワードエリミネーションを組み合わせたものです。フォワードセレクションによって新しい変数がモデルに追加されるたびに、システムはモデルに既にあるすべての変数に対してバックワードエリミネーションステップを実行し、有意性の要件を満たさなくなった変数を削除します。複数の目的関数と特徴変換メソッドをサポートしているため、ステップワイズプロセスは次の選択基準をサポートしています。

  • 限界貢献度：すべての目的関数と特徴量エンジニアリングメソッドに適用できます。

    変数 X の限界貢献度は、収束時の 2 つのモデルの目的関数の値の差です。モデル A (X を含まない) とモデル B (A のすべての変数に X を加えたもの) です。ダミー変数変換を使用する場合、元の変数 X の限界貢献度は、2 つのモデル間の目的関数の差として定義されます。1 つは X のすべてのダミー変数を含むモデル、もう 1 つは含まないモデルです。したがって、特徴選択に限界貢献度を使用することは、すべての特徴量エンジニアリングメソッドと互換性があります。

    このメソッドの利点は、その柔軟性です。特定のモデルタイプに限定されず、目的関数を改善する変数を直接選択します。欠点は、p 値 0.05 が一般的なしきい値である統計的有意性とは異なり、限界貢献度には一般的に受け入れられているしきい値がないことです。新規ユーザーの場合、しきい値は 10E-5 から始めることを推奨します。

  • スコア検定：WOE 変換を伴う、または特徴量エンジニアリングなしのロジスティック回帰のみをサポートします。

    フォワードセレクションプロセスでは、まず切片のみのモデルがトレーニングされます。後続の各ステップで、まだモデルに含まれていない各変数のスコアカイ二乗統計量を計算します。スコアカイ二乗が最大の変数がモデルに追加されます。次に、この統計量に対応する p 値をカイ二乗分布に基づいて計算します。最良の変数の p 値が指定された参入しきい値 (slentry) よりも大きい場合、変数は追加されず、選択プロセスは停止します。

    フォワードセレクションのラウンドの後、モデルに既にある変数に対してバックワードエリミネーションのラウンドが実行されます。バックワードエリミネーション中、プロセスはモデル内の各変数の Wald カイ二乗統計量とそれに対応する p 値を計算します。変数の p 値が指定された除去しきい値 (slstay) を超える場合、その変数はモデルから削除され、プロセスは次の反復に進みます。

  • F 検定：WOE 変換を伴う、または特徴量エンジニアリングなしの線形回帰のみをサポートします。

    フォワードセレクションプロセスでは、まず切片のみのモデルがトレーニングされます。後続の各ステップで、まだモデルに含まれていない各変数の F 値が計算されます。F 値の計算は、2 つのモデルをトレーニングする必要があるため、限界貢献度の計算に似ています。F 値は F 分布に従い、対応する p 値はその確率密度関数から導出できます。変数の p 値が指定された参入しきい値 (slentry) を超える場合、その変数はモデルに追加されず、選択プロセスは停止します。

    バックワードエリミネーションプロセスも、スコア検定と同様に、F 値を使用して有意性を計算します。

• 強制投入変数

  特徴選択が始まる前に、特定の変数をモデルに強制的に投入できます。これらの変数は、フォワードセレクションおよびバックワードエリミネーションプロセスから除外され、その有意性に関係なく最終モデルに含まれます。コマンドラインで -Dselected パラメーターを使用して、反復回数と有意性のしきい値を JSON 形式で指定できます。次のコードは例です。

  {"max_step":2, "slentry": 0.0001, "slstay": 0.0001}

  -Dselected パラメーターが空であるか、max_step が 0 の場合、トレーニングプロセスは特徴選択なしで進行します。

Scorecard Training コンポーネントは、Machine Learning Designer のビジュアルインターフェイスを使用するか 、PAI コマンドを実行して構成できます。次のコードは、PAI コマンドの例を示しています。

pai -name=linear_model -project=algo_public
    -DinputTableName=input_data_table
    -DinputBinTableName=input_bin_table
    -DinputConstraintTableName=input_constraint_table
    -DoutputTableName=output_model_table
    -DlabelColName=label
    -DfeatureColNames=feaname1,feaname2
    -Doptimization=barrier_method
    -Dloss=logistic_regression
    -Dlifecycle=8

Scorecard Training コンポーネントは、ビニング情報、ビン制約、および WOE や限界貢献度などの主要な統計情報を含むモデルレポートを出力します。次の表に、PAI Web コンソールに表示されるモデル評価レポートの列を示します。