LLM-N-Gram重複比率過濾組件說明 - Platform For AI

LLM-N-Gram重複比率過濾組件主要用於大語言模型（LLM）的文本資料預先處理工作，保留字元級或者詞語級N-Gram重複比率在指定範圍內的樣本。

使用限制

僅支援MaxCompute計算引擎。

將文本中的內容按照字元或詞語進行大小為N的滑動視窗操作，形成了長度為N的片段序列。每一個片段稱為Gram，對所有Gram的出現次數進行統計。最後統計頻次大於1的Gram的頻次總和 / 所有Gram的頻次總和兩者比率作為重複比率進行樣本過濾。

如果是詞語級統計，會先將所有單詞轉成小寫格式再計算重複度。

您可以在Designer中，通過可視化的方式配置組件參數。

頁簽	參數	是否必選	描述	預設值
欄位設定	選擇目標處理列	是	選擇要處理的列，支援選擇多個列。	無
	是否根據字元級N-Gram重複比率過濾	否	長度N：字元片段序列的長度。比率最小值：取值範圍0.0~1.0。N-Gram重複比率小於該值將被過濾掉。比率最大值：取值範圍0.0~1.0。N-Gram重複比率大於該值將被過濾掉。	無
	是否根據詞語級N-Gram重複比率過濾	否	文本分隔字元：根據分隔字元將文本拆分成單字清單，預設空格。分隔字元需用半形雙引號（""）括起來。長度N：詞語片段序列的長度。比率最小值：取值範圍0.0~1.0。N-Gram重複比率小於該值將被過濾掉。比率最大值：取值範圍0.0~1.0。N-Gram重複比率大於該值將被過濾掉。	無
	設定輸出表生命週期	否	正整數，單位為天。預設28天，28天后該組件產生的暫存資料表被回收。	28
執行調優	每個執行個體的cpu數目	否	設定map task每個instance的CPU數目，取值範圍為[50,800]。	100
	每個執行個體的memory大小，單位M	否	設定map task每個instance的memory大小，單位為MB，取值範圍為[256,12288]。	1024
	每個執行個體處理的資料大小，單位M	否	設定map task每個instance的最大處理資料量，使用者可以通過控制該變數，實現對map端輸入的控制。單位為MB，取值範圍為[1,Integer.MAX_VALUE]。	256