LLM-特殊字元佔比過濾組件主要用於大語言模型（LLM）的文本資料預先處理工作，根據特殊字元佔比過濾樣本，保留特殊字元個數占文本總長度比例在指定範圍內的樣本。
使用限制
僅支援MaxCompute計算引擎。
演算法簡介
遍曆文本中的每個字元，並統計特殊字元個數占文本總長度的比例。
預設特殊字元包括：標點符號（string.punctuation）、數字（string.digits）、空格符號（string.whitespace）、emoji表情包以及一些特殊字元。
可視化配置參數
您可以在Designer中，通過可視化的方式配置組件參數。
頁簽 | 參數 | 是否必選 | 描述 | 預設值 |
欄位設定 | 選擇目標處理列 | 是 | 選擇要處理的列，支援選擇多個列。 | 無 |
比例最小值 | 否 | 特殊字元個數占文本總長度比例小於該值將被過濾掉。 | 0 | |
比例最大值 | 是 | 特殊字元個數占文本總長度比例大於該值將被過濾掉。 | 無 | |
設定輸出表生命週期 | 否 | 正整數，單位為天。預設28天，28天后該組件產生的暫存資料表被回收。 | 28 | |
執行調優 | 每個執行個體的cpu數目 | 否 | 設定map task每個instance的CPU數目，取值範圍為[50,800]。 | 100 |
每個執行個體的memory大小，單位M | 否 | 設定map task每個instance的memory大小，單位為MB，取值範圍為[256,12288]。 | 1024 | |
每個執行個體處理的資料大小，單位M | 否 | 設定map task每個instance的最大處理資料量，使用者可以通過控制該變數，實現對map端輸入的控制。單位為MB，取值範圍為[1,Integer.MAX_VALUE]。 | 256 |
相關文檔
關於Designer組件更詳細的內容介紹，請參見Designer概述。