全部產品

Platform For AI：LLM-長度過濾（MaxCompute）

更新時間：Jul 13, 2024

LLM-長度過濾組件主要用於大語言模型（LLM）的文本資料預先處理工作，根據文本長度、平均長度、最大行長度等過濾樣本。平均長度和最大行長度過濾預設會將文本按行切分再進行統計。

使用限制

僅支援MaxCompute計算引擎。

可視化配置參數

您可以在Designer中，通過可視化的方式配置組件參數。

頁簽	參數	是否必選	描述	預設值
欄位設定	選擇目標處理列	是	選擇要處理的列，支援選擇多個列。	無
	是否根據樣本長度過濾	否	文本分隔字元：根據分隔字元將文本進行拆分，並統計拆分後的列表長度，預設為空白。如果為空白，則不做拆分，直接統計文本的長度。分隔字元需用半形雙引號（""）括起來。長度最小值：文本長度小於該值將被過濾掉。長度最大值：文本長度大於該值將被過濾掉。	無
	是否根據樣本平均長度過濾	否	平均長度最小值：樣本平均長度小於該值將被過濾掉。平均長度最大值：樣本平均長度大於該值將被過濾掉。	無
	是否根據樣本最大行長度過濾	否	最大行長度最小值：最大一行的長度小於該值樣本將被過濾掉。最大行長度最大值：最大一行的長度大於該值樣本將被過濾掉。	無
	設定輸出表生命週期	否	正整數，單位為天。預設28天，28天后該組件產生的暫存資料表被回收。	28
執行調優	每個執行個體的cpu數目	否	設定map task每個instance的CPU數目，取值範圍為[50,800]。	100
	每個執行個體的memory大小，單位M	否	設定map task每個instance的memory大小，單位為MB，取值範圍為[256,12288]。	1024
	每個執行個體處理的資料大小，單位M	否	設定map task每個instance的最大處理資料量，使用者可以通過控制該變數，實現對map端輸入的控制。單位為MB，取值範圍為[1,Integer.MAX_VALUE]。	256

相關文檔

關於Designer組件更詳細的內容介紹，請參見Designer概述。