Elasticsearch:Elasticsearch 機械学習によるデータの検知と予測

フライト遅延予測モデルのトレーニング

このセクションでは、回帰を使用して教師あり機械学習モデルをトレーニングします。この予測により、航空会社と乗客はフライトやスケジュールをより適切な計画を立てられるようになります。

次の例は、Sample flight data データセットのデータレコードを示しています。

{
  "_index": "kibana_sample_data_flights",
  "_type": "_doc",
  "_id": "7b0aeogBmNQSVxOwslB_",
  "_version": 1,
  "_score": null,
  "_source": {
    "FlightNum": "QYX9S3I",
    "DestCountry": "CH",
    "OriginWeather": "Cloudy",
    "OriginCityName": "Chicago",
    "AvgTicketPrice": 824.8516378170061,
    "DistanceMiles": 4442.909325899777,
    "FlightDelay": false,
    "DestWeather": "Thunder & Lightning",
    "Dest": "Zurich Airport",
    "FlightDelayType": "No Delay",
    "OriginCountry": "US",
    "dayOfWeek": 4,
    "DistanceKilometers": 7150.1694661808515,
    "timestamp": "2023-06-02T07:28:15",
    "DestLocation": {
      "lat": "47.464699",
      "lon": "8.54917"
    },
    "DestAirportID": "ZRH",
    "Carrier": "Logstash Airways",
    "Cancelled": false,
    "FlightTimeMin": 420.59820389299125,
    "Origin": "Chicago O'Hare International Airport",
    "OriginLocation": {
      "lat": "41.97859955",
      "lon": "-87.90480042"
    },
    "DestRegion": "CH-ZH",
    "OriginAirportID": "ORD",
    "OriginRegion": "US-IL",
    "DestCityName": "Zurich",
    "FlightTimeHour": 7.009970064883188,
    "FlightDelayMin": 0
  }
}

1. Kibana の左側のナビゲーションペインで、メニューアイコン をクリックし、次に Kibana>[Machine learning] をクリックします。

2. 左側のナビゲーションペインで、データフレーム分析 > 宿題 をクリックします。

3. [Data frame analytics jobs] ページで、[Create job] をクリックします。

4. kibana_sample_data_flights データビューを選択します。

5. [ジョブの作成] ページの 設定 セクションで、ジョブパラメーターを設定します。

   1. 分析タイプとして [Regression] を選択します。

   2. [Dependent variable] で FlightDelayMin を選択します。これは、モデルが予測するように学習するフィールドです。

   3. 含めるフィールドから、Cancelled、FlightDelay、FlightDelayType フィールドを除外します。

      これらのフィールドは結果と直接関連しています。これらを含めるとモデルが過学習し、新しいデータに対する予測精度が低下します。

   4. トレーニングの割合を調整します。

      この設定は、データをトレーニングセットとテストセットに分割します。このチュートリアルでは、トレーニングの割合として 90% を使用します。

      説明

      トレーニング時間はデータ量に応じて増加します。非常に大きなデータセットの場合は、50% などの小さめのトレーニングの割合から開始し、トレーニング時間とモデル精度のバランスを取りながら必要に応じて調整してください。

6. 続行 をクリックし、[追加オプション] を設定します。

   1. [Number of top feature importance values] を 5 に設定します。これにより、予測に最も寄与する上位 5 つの特徴量が計算され、特徴量の選択やジョブの最適化に役立ちます。

   2. [Prediction field name] を FlightDelayMin_prediction に設定します。これは、予測結果を格納するフィールド名を指定します。

   3. [Use estimated model memory limit] チェックボックスをオフにし、[Model memory limit] を 500 MB に設定します。これは、ジョブが使用できる最大メモリを指定します。大規模データセットに対する複雑なジョブは大量のメモリを消費する場合があります。ジョブがこの上限を超えると、失敗したりパフォーマンスが低下したりする可能性があります。

   4. スレッド最大数 を 1 に設定します。このパラメーターは、トレーニングジョブの最大スレッド数を指定します。スレッド数が多すぎると、メモリの問題やシステムの不安定化を引き起こす可能性があります。

   5. 続行 をクリックし、ジョブ ID を flightdelaymin_job に設定します。

   6. 続行 をクリックしてジョブ設定を検証します。

   7. 検証に合格すると、続行 をクリックします。

   8. Create セクションで、Create をクリックしてジョブを開始します。

      ジョブの作成に必要な時間は、トレーニングデータの量によって異なります。

7. ジョブが完了したら、[View Results] をクリックして分析結果を確認します。

   [Model evaluation] セクションで、モデルのパフォーマンスを確認できます。

   • 汎化誤差：新規の未知データに対するモデルの性能を測定します。汎化誤差が低いほど、未知データに対するモデルの精度が高いことを示します。

   • 訓練誤差：トレーニングデータセットに対するモデルの性能を測定します。訓練誤差が低いほど、モデルがトレーニングデータに適合していることを示します。

   • 評価指標：

     • 平均二乗誤差：回帰の性能を評価するうえで重要な指標です。実測値と予測値の差を二乗した値の平均です。値が小さいほど予測精度が高いことを示します。

     • R 2乗：モデルがデータにどの程度適合しているかを示す指標です。値が 1 に近いほど適合度が高いことを示します。一般的に 0.8 を超えると良好な適合と見なされます。

     • 平均二乗対数誤差：実測値と予測値の対数の差を二乗した値の平均です。値が小さいほど予測性能が高いことを示します。

     説明

     複数の回帰モデルを比較する場合は、平均二乗誤差と R 2乗 の両方の値を考慮し、データセットに最も適合するモデルを選択してください。

     • 平均二乗誤差が 0、または R 2乗 が 1 になることは通常ありません。モデルの予測は、完全には考慮できない多くの要因の影響を受けるためです。

     • 平均二乗対数誤差が NaN (Not a Number) となる場合、実測値または予測値が 0 以下 (負の数または 0) であったことを意味します。

     詳細については、「Evaluating data frame analytics」をご参照ください。

トレーニング済みモデルを使用した推論

インジェストパイプライン内の推論プロセッサを使用して、トレーニング済みのフライト遅延モデルで予測を行います。

1. Kibana の左側のナビゲーションペインで、メニューアイコン をクリックし、次に [管理] > Developer Tools をクリックします。

2. コンソールで、次のコマンドを実行し、model_id を見つけて記録します。

   GET _ml/inference/flightdelaymin_job*?human=true

   このコマンドは、flightdelaymin_job に一致するジョブの推論分析結果をすべてクエリし、人が読みやすい形式で出力を返します。flightdelaymin_job は、回帰ジョブの作成時に定義したジョブ ID です。

3. 推論プロセッサとトレーニング済みモデルを使用するインジェストパイプラインを作成します。

   説明

   コマンド内の model_id を、前の手順で取得した値に置き換えてください。

   PUT _ingest/pipeline/flight_flightDelayMin_predict
   {
     "description": "Predict the number of minutes of delay for each flight",
     "processors": [
       {
         "inference": {
           "model_id": "flightDelayMin_job-168609891****",
           "inference_config": {
             "regression": {}
           },
           "field_map": {},
           "tag": "flightDelayMin_prediction"
         }
       }
     ]
   }

4. パイプラインをシミュレートし、FlightDelayMin をターゲット変数として、新しいデータに対する予測を行います。

   POST _ingest/pipeline/flight_flightDelayMin_predict/_simulate
   {
     "docs": [
       {
         "_source": {
           "FlightNum": "EDGSV3T",
           "DestCountry": "CN",
           "OriginWeather": "Damaging Wind",
           "OriginCityName": "Durban",
           "AvgTicketPrice": 1065.7037805199147,
           "DistanceMiles": 7273.460817641552,
           "FlightDelay": true,
           "DestWeather": "Rain",
           "Dest": "Shanghai Pudong International Airport",
           "FlightDelayType": "Carrier Delay",
           "OriginCountry": "ZA",
           "dayOfWeek": 5,
           "DistanceKilometers": 11705.500526106527,
           "timestamp": "2023-06-03T09:34:00",
           "DestLocation": {
             "lat": "31.14340019",
             "lon": "121.8050003"
           },
           "DestAirportID": "PVG",
           "Carrier": "Kibana Airlines",
           "Cancelled": false,
           "FlightTimeMin": 881.1071804361806,
           "Origin": "King Shaka International Airport",
           "OriginLocation": {
             "lat": "-29.61444444",
             "lon": "31.11972222"
           },
           "DestRegion": "CN-SH",
           "OriginAirportID": "DUR",
           "OriginRegion": "ZA-KZN",
           "DestCityName": "Shanghai",
           "FlightTimeHour": 14.685119673936343,
           "FlightDelayMin": 45
         }
       }
     ]
   }

   結果は次のとおりです。

   "flightDelayMin_prediction" : {
     "FlightDelayMin_prediction" : 50.278760382477095,
     "feature_importance" : [
       {
         "feature_name" : "FlightTimeMin",
         "importance" : 43.5994522867254
       },
       {
         "feature_name" : "DistanceKilometers",
         "importance" : -16.095227076624866
       },
       {
         "feature_name" : "DistanceMiles",
         "importance" : -15.496369672570939
       },
       {
         "feature_name" : "OriginAirportID",
         "importance" : -5.120423036009302
       },
       {
         "feature_name" : "FlightTimeHour",
         "importance" : 3.944654321505046
       }
     ],
     "model_id" : "flightdelaymin_job3-1686721092815"
   }

   実際のフライト遅延 (FlightDelayMin) は 45 分で、予測された遅延 (FlightDelayMin_prediction) は 50.28 分です。これは近い推定値です。

   feature_importance オブジェクトは、予測に最も寄与した上位 5 つの要因として、FlightTimeMin、DistanceKilometers、DistanceMiles、OriginAirportID、FlightTimeHour を示しています。この情報を使用して、フライト遅延に影響する要因をより深く理解し、必要に応じてモデルを改善できます。