PolarDB:PolarDB for AI を使用してゲームにおけるユーザーの行動を予測する方法

モデル構築

1. 一般的な分類モデルには、ユーザー解約を予測するための 7 で 7 を予測するテストと 14 で 14 を予測するテスト、および課金ユーザーを予測するための 7 で 7 を予測するテストと 14 で 7 を予測するテストが含まれます。行動の特徴との相関関係があるため、このようなモデルは課金ユーザーの予測よりもユーザー解約の予測で優れたパフォーマンスを発揮します。ここでは、ユーザー解約を予測するためのモデルを作成する方法について説明します。

   トレーニングデータテーブル：GameName_train_val_lose_7_to_14_2024_07_20_2024_07_26。以下はサンプルテーブルです。

   train_start_date	train_end_date	test_start_date	test_end_date	user_id	is_prepay	target	part_date	event_list	stats_item_list	stats_event_list	num_event	max_level	max_viplevel	val_row
   2024/7/20	2024/7/26	2024/7/27	2024/8/9	example001	1	0	2024/7/20	[1, 12, 2, 1]	0, 1, 1	1, 2, 32	4	43	600	0
   2024/7/21	2024/7/27	2024/7/28	2024/8/10	example002	1	0	2024/7/21	[1, 12, 2, 134, 23]	3, 1, 5	8, 90, 3	5	3	600	0
   2024/7/26	2024/8/1	2024/8/2	2024/8/15	example007	1	0	2024/7/26	[1, 12, 2, 134, 23, 2, 12]	1, 2, 3	3, 4, 5	7	2	1200	1

   説明

   トレーニングデータテーブルでは、必要なパーティション期間のデータが同じテーブルにマージされます。キー列についてここで説明します。

   • event_list：ゲーム行動の時系列。イベントでソートされます。

   • stats_item_list：ゲームアイテムの出現リスト。ゲームアイテム ID でソートされます。

   • stats_event_list：ゲーム行動の出現リスト。ゲーム行動 ID でソートされます。

   • num_event：イベントの総数。

   • max_level：最高レベル。

   • max_viplevel：最高の VIP レベル。

   • val_row：トレーニングセットか検証セットかを示します。0 はトレーニングセットを、1 は検証セットを示します。

   • target：ユーザーが離脱するかどうかを示します。1 ははいを、0 はいいえを表します。

   • その他の列はオプションであり、無視できます。

2. トレーニング SQL ステートメント：

   -- このステートメントを実行する前に、同じ名前の元のモデルが削除されていることを確認してください。
   /*polar4ai*/ CREATE MODEL GameName_7to14_train_val_lose_20240720_20240726
   WITH (model_class='bst', 
   x_cols='event_list,max_level,max_viplevel,num_event,stats_item_list,stats_event_list', 
   y_cols='target',
   model_parameter=(model_task_type='classification', /* classification */
               window_size=100,
               success_id=2,
               sequence_length=3000,
               batch_size=128,
               learning_rate=0.002,
               max_epoch=5,
               val_flag=1,
               val_metric='f1score',
               auto_data_statics='on',
               auto_heads=0,
               num_heads=8,
               version=1,
               data_normalization=1,
               x_seq_cols='event_list',
               x_value_cols='max_level,max_viplevel,num_event',
               x_statics_cols='stats_item_list,stats_event_list',
   			remove_seq_adjacent_duplicates = 'on'
   						)) 
   AS (SELECT * FROM GameName_train_val_lose_7_to_14_2024_07_20_2024_07_26);

   説明

   • success_id：課金ユーザー行動の ID。解約したユーザーの場合は、このパラメーターを空のままにすることができます。

   • 生成されたモデル名：GameName_7to14_train_val_lose_20240720_20240726。

モデルの微調整

深層学習モデルには多くのパラメーターが含まれます。ネイティブの調整プロセスは複雑で、多くのパラメーターが関係します。モデルの調整を次のパラメーターにカプセル化しようとしました。

• window_size：行動 ID を埋め込み、エンコードします。このパラメーターの値は、行動 ID の最大値に 1 を加えた値以上にすることはできません。埋め込みプロセスが正しければ、値を設定する必要はありません。

• sequence_length：アルゴリズムモデルに含まれる行動シーケンスの長さ。値が高いほど、大量の情報が含まれていることを示します。ただし、データセットの数が少ない場合（たとえば、データが 100,000 行未満の場合）、sequence_length パラメーターが増加すると、モデルパラメーターを完全にトレーニングできなくなります。sequence_length 値が小さすぎると情報が不十分になるため、適切な sequence_length 値は 100 ～ 3000 です。データ量に応じて調整できます。

• batch_size：1 回の反復でモデルのトレーニングに使用されるサンプルの数。GPU またはメモリの容量内で、非常に小さい値（2、4、または 8）を設定しないでください。モデルの反復速度を向上させるには、batch_size 値を増やします。値は通常、2 の指数（16、32、64、または 128）です。非常に高い batch_size 値を設定すると、メモリまたは GPU が不足する可能性があります。

• learning_rate：反復中にモデルの重みを更新するために、最適化アルゴリズムのステップサイズを制御します。具体的には、学習率は、損失関数の勾配に沿って各パラメーターの更新の移動速度を決定します。学習率が非常に小さいと収束が遅くなり、モデルがより良い結果を達成するために多くの反復が必要になる場合があります。これにより、多くの場合、グローバルに最適なソリューションではなく、局所的に最適なソリューションが得られます。学習率が非常に大きいと不安定になり、損失関数の変動、さらには収束の失敗を引き起こすことがよくあります。モデルは損失関数の高さで爆発し、学習が失敗する可能性があります。0.1 ～ 0.0001 の間で徐々に調整し、結果を観察および検証して最適な値を選択できます。

• auto_data_statics：BST モデルの組み込みデータ統計プロセスを使用し、各行動の発生などの統計データを特徴に追加した結果。

• auto_heads または num_heads：マルチアテンションヘッダーの数を自動的に指定するかどうかを指定します。このパラメーターを 1 に設定すると、値は window_size と sequence_length に基づいて自動的に計算されます。これにより、メモリが不足する可能性があります。このパラメーターを 0 に設定すると、マルチアテンションヘッダーの数（num_heads）を指定できます。マルチアテンションヘッダーは、Transformer モデルの重要な部分です。複数の注意ヘッドを並列に使用して入力データの異なる部分空間情報をキャプチャするため、モデルは入力シーケンスの複雑な特徴をより適切に学習および表現できます。注意ヘッドの数を増やすと、より多くの関係と特徴を学習できますが、過剰適合につながる可能性があります。注意ヘッドの数を減らすと、入力データの重要な情報をキャプチャしない単純化されたモデルになる可能性があります。注意ヘッドの最適な数を見つけるには、多くの場合、実験が必要です。小さい値（2 や 4 など）から始めて徐々に増やし、検証セットでのパフォーマンスを観察できます。

• data_normalization：x_value_cols および x_statics_cols パラメーターで指定された列のデータを正規化するかどうかを指定します。この正規化は BST によって自動的に行われるため、データは整数または浮動小数点型である必要がありますが、エラーが発生します。BST を使用する前に、手動でデータを正規化することをお勧めします。

• remove_seq_adjacent_duplicates：x_seq_cols データに対して重複排除操作を実行します。たとえば、'[1,1,2,2,3,3,1,2,3]' は '[1,2,3,1,2,3]' として重複排除されます。これにより、冗長データが削除され、ベクトル計算の精度が向上します。

• x_seq_cols：通常は、各アイテムの出現などの統計シーケンス機能。

• x_value_cols：通常は、最高レベルや行動の出現などの離散数値機能。

モデル評価

PolarDB for AI では、Evaluate 演算子を直接呼び出してモデルの結果を評価できます。予測データセットが生成された後、予測ステップをスキップして、予測データセットを評価の入力として直接使用できます。この演算子は、予測結果と評価メトリックの OSS ダウンロードリンクを出力します。

1. 以下は、評価されるサンプルデータテーブルです。

   train_start_date

   train_end_date

   test_start_date

   test_end_date

   user_id

   is_prepay

   target

   part_date

   event_list

   stats_item_list

   stats_event_list

   num_event

   max_level

   max_viplevel

   2024/7/20

   2024/7/26

   2024/7/27

   2024/8/9

   example001

   1

   0

   2024/7/20

   [1, 12, 2, 1]

   0, 1, 1

   1, 2, 32

   4

   43

   600

   2024/7/21

   2024/7/27

   2024/7/28

   2024/8/10

   example002

   1

   0

   2024/7/21

   [1, 12, 2, 134, 23]

   3, 1, 5

   8, 90, 3

   5

   3

   600

   2024/7/26

   2024/8/1

   2024/8/2

   2024/8/15

   example007

   1

   1

   2024/7/26

   [1, 12, 2, 134, 23, 2, 12]

   1, 2, 3

   3, 4, 5

   7

   2

   1200

   説明

   パーティション期間は 2024 年 7 月 28 日で、target は既知です。

2. データテーブルのモデル評価を実行します。

   /*polar4ai*/SELECT user_id,target FROM EVALUATE (MODEL GameName_7to14_train_val_lose_20240720_20240726, 
   SELECT * FROM GameName_predict_lose_7_to_14_2024_07_28_2024_07_28) WITH 
   (x_cols = 'event_list,max_level,max_viplevel,num_event,stats_item_list,stats_event_list',y_cols='target',s_cols='user_id,target',metrics='Fscore');

   説明

   • MODEL GameName_7to14_train_val_lose_20240720_20240726：モデル名が GameName_7to14_train_val_lose_20240720_20240726 であることを示します。これは、前のモデル構築スクリプトで指定されたモデル名です。

   • x_cols：必要な機能列。通常は、モデルの作成に使用される xcols と同じです。

   • y_cols：ラベル列。ユーザーが離脱するかどうかをマークします。

   • s_cols：最終結果に含める列。一般に、後続のデータ分析を容易にするために user_id が含まれます。

   • metrics：評価の標準メトリック。分類アルゴリズムには、Fscore または AUC をお勧めします。

   • 前のステートメントを実行すると、タスクが生成されます。taskid 値を記録します。

3. 次の SQL ステートメントを実行します。

   /*polar4ai*/ SHOW TASK <taskid>;

   評価結果を取得できます。一般に、結果は Fscore 値です。Fscore 値が高いほど優れています。

   説明

   結果メトリック：

   • 精度：ユーザー解約を予測するモデルでは、精度は、モデルによって解約済みとして識別された課金ユーザーの数を、モデルによって識別された解約ユーザーの総数で割った比率です。

   • 再現率：ユーザー解約を予測するモデルでは、再現率は、モデルによって識別された解約ユーザーの数を課金ユーザーの総数で割った比率です。

   • FScore：精度と再現率の調和平均を指し、モデルの精度と再現率を包括的に判断できます。FScore = 2 ×（精度 × 再現率）/（精度 + 再現率）。

   例：

   合計サンプルサイズ：100 ユーザー。モデルによって予測された課金ユーザー：80（実際には 70 が支払い、10 は支払わない）。モデルによって予測された非課金ユーザー：20（実際には 5 が支払い、15 は支払わない）。

   精度 = 70/80 = 87.5%。再現率 = 70/（70 + 5）= 93.3%。Fscore = 2 ×（0.875 × 0.933）/（0.875 + 0.933）= 90.3%。

モデル推論

• 入力テーブル：GameName_predict_lose_7_to_14_2024_07_28_2024_07_28

• 出力テーブル：res_GameName_predict_lose_7_to_14_2024_07_28_2024_07_28

• モデル名：GameName_7to14_train_val_lose_20240720_20240726

以下はサンプルデータテーブルです。

/*polar4ai*/SELECT user_id,target FROM PREDICT (MODEL GameName_7to14_train_val_lose_20240720_20240726, 
SELECT * FROM GameName_predict_lose_7_to_14_2024_07_28_2024_07_28) WITH 
(x_cols= 'event_list,max_level,max_viplevel,num_event,stats_item_list,stats_event_list',s_cols='user_id,target');

モデル構築

一般的な回帰モデルには、ユーザー金額を予測するための 7 で 7 を予測するテスト、7 で 14 を予測するテスト、および 14 で 7 を予測するテストが含まれます。ここでは、ユーザー金額を予測するためのモデルを作成する方法について説明します。

トレーニングデータテーブル：GameName_train_val_money_7_to_14_2024_07_20_2024_07_26。

以下はサンプルテーブルです。

トレーニング SQL ステートメント：

/*polar4ai*/ CREATE MODEL GameName_7to14_train_val_money_20240720_20240726
WITH (model_class='bst', 
x_cols='event_list,max_level,max_viplevel,num_event,stats_item_list,stats_event_list', 
y_cols='target',
model_parameter=(model_task_type='regression', /* regression */
            window_size=100,
            success_id=2,
            sequence_length=3000,
            batch_size=128,
            learning_rate=0.002,
            max_epoch=5,
            val_flag=1,
            val_metric='mse',
            auto_data_statics='on',
            auto_heads=0,
            num_heads=8,
            version=1,
            data_normalization=1,
            x_seq_cols='event_list',
            x_value_cols='max_level,max_viplevel,num_event',
            x_statics_cols='stats_item_list,stats_event_list',
			remove_seq_adjacent_duplicates = 'on'
						)) 
AS (SELECT * FROM GameName_train_val_money_7_to_14_2024_07_20_2024_07_26);

モデルの微調整

深層学習モデルには多くのパラメーターが含まれます。ネイティブの調整プロセスは複雑で、多くのパラメーターが関係します。モデルの調整を次のパラメーターにカプセル化しようとしました。

• window_size：行動 ID を埋め込み、エンコードします。このパラメーターの値は、行動 ID の最大値に 1 を加えた値以上にすることはできません。embedding プロセスが正しければ、値を設定する必要はありません。

• sequence_length：アルゴリズムモデルに含まれる行動シーケンスの長さ。値が高いほど、大量の情報が含まれていることを示します。ただし、データセットの数が少ない場合（たとえば、データが 100,000 行未満の場合）、sequence_length パラメーターが増加すると、モデルパラメーターを完全にトレーニングできなくなります。sequence_length 値が小さすぎると情報が不十分になるため、適切な sequence_length 値は 100 ～ 3000 です。データ量に応じて調整できます。

• batch_size：1 回の反復でモデルのトレーニングに使用されるサンプルの数。GPU またはメモリの容量内で、非常に小さい値（2、4、または 8）を設定しないでください。モデルの反復速度を向上させるには、batch_size 値を増やします。値は通常、2 の指数（16、32、64、または 128）です。非常に高い batch_size 値を設定すると、メモリまたは GPU が不足する可能性があります。

• learning_rate：反復中にモデルの重みを更新するために、最適化アルゴリズムのステップサイズを制御します。具体的には、学習率は、損失関数の勾配に沿って各パラメーターの更新の移動速度を決定します。学習率が非常に小さいと収束が遅くなり、モデルがより良い結果を達成するために多くの反復が必要になる場合があります。これにより、多くの場合、グローバルに最適なソリューションではなく、局所的に最適なソリューションが得られます。学習率が非常に大きいと不安定になり、損失関数の変動、さらには収束の失敗を引き起こすことがよくあります。モデルは損失関数の高さで爆発し、学習が失敗する可能性があります。0.1 ～ 0.0001 の間で徐々に調整し、結果を観察および検証して最適な値を選択できます。

• auto_data_statics：BST モデルの組み込みデータ統計プロセスを使用し、各行動の発生などの統計データを特徴に追加した結果。

• auto_heads または num_heads：マルチアテンションヘッダーの数を自動的に指定するかどうかを指定します。このパラメーターを 1 に設定すると、値は window_size と sequence_length に基づいて自動的に計算されます。これにより、メモリが不足する可能性があります。このパラメーターを 0 に設定すると、マルチアテンションヘッダーの数（num_heads）を指定できます。マルチアテンションヘッダーは、Transformer モデルの重要な部分です。複数の注意ヘッドを並列に使用して入力データの異なる部分空間情報をキャプチャするため、モデルは入力シーケンスの複雑な特徴をより適切に学習および表現できます。注意ヘッドの数を増やすと、より多くの関係と特徴を学習できますが、過剰適合につながる可能性があります。注意ヘッドの数を減らすと、入力データの重要な情報をキャプチャしない単純化されたモデルになる可能性があります。注意ヘッドの最適な数を見つけるには、多くの場合、実験が必要です。小さい値（2 や 4 など）から始めて徐々に増やし、検証セットでのパフォーマンスを観察できます。

• data_normalization：x_value_cols および x_statics_cols パラメーターで指定された列のデータを正規化するかどうかを指定します。この正規化は BST によって自動的に行われるため、データは整数または浮動小数点型である必要がありますが、エラーが発生します。

• remove_seq_adjacent_duplicates：x_seq_cols データに対して重複排除操作を実行します。'[1,1,2,2,3,3,1,2,3]' は '[1,2,3,1,2,3]' として重複排除されます。これにより、冗長データが削除され、ベクトル計算の精度が向上します。

• x_seq_cols：通常は、各アイテムの出現などの統計シーケンス機能。

• x_value_cols：通常は、最高レベルや行動の出現などの離散数値機能。

モデル評価

PolarDB for AI では、Evaluate 演算子を直接呼び出してモデルの結果を評価できます。予測データセットが生成された後、予測ステップをスキップして、予測データセットを評価の入力として直接使用できます。

以下は、評価されるサンプルデータテーブルです。

データテーブルのモデル評価を実行します。

/*polar4ai*/SELECT user_id,target FROM EVALUATE (MODEL GameName_7to14_train_val_money_20240720_20240726, 
SELECT * FROM GameName_predict_money_7_to_14_2024_07_28_2024_07_28) WITH 
(x_cols = 'event_list,max_level,max_viplevel,num_event,stats_item_list,stats_event_list',y_cols='target',s_cols='user_id,target',metrics='mse');

次のステートメントを実行します。

/*polar4ai*/ SHOW TASK <taskid>;

評価結果を取得できます。

モデル推論

• 入力テーブル：GameName_predict_money_7_to_14_2024_07_28_2024_07_28

• 出力テーブル：res_GameName_predict_money_7_to_14_2024_07_28_2024_07_28

• モデル名：GameName_7to14_train_val_money_20240720_20240726

以下はサンプルデータテーブルです。

/*polar4ai*/SELECT user_id,target FROM PREDICT (MODEL GameName_7to14_train_val_money_20240720_20240726, 
SELECT * FROM GameName_predict_money_7_to_14_2024_07_28_2024_07_28) WITH 
(x_cols= 'event_list,max_level,max_viplevel,num_event,stats_item_list,stats_event_list',s_cols='user_id,target');