LLM-敏感詞過濾(DLC)組件主要用於過濾掉帶有敏感詞的樣本。輸入的OSS資料檔案(JSONL格式,樣本)需符合:每一行是一個合法的JSON對象,檔案由多行JSON對象組成,整個檔案本身不是合法的JSON對象。
支援的計算資源
演算法說明
識別並過濾包含敏感詞的文本樣本,支援返迴文本中包含的敏感詞。預設提供的敏感詞數量共12000+。
配置組件
在Designer工作流程頁面添加LLM-敏感詞過濾(DLC)組件,並在介面右側配置相關參數:
參數類型 | 參數 | 是否必選 | 描述 | 預設值 | |
欄位設定 | 目標處理欄位 | 是 | 要處理的欄位名稱。 | 無 | |
資料輸出OSS目錄 | 否 | 處理後資料的OSS儲存目錄。如果為空白,使用工作空間預設路徑。 | 無 | ||
敏感詞檔案 | 否 | 敏感詞檔案路徑。置空時,使用預設的敏感詞列表。檔案格式為:"敏感詞1\n敏感詞2\n...",敏感詞之間用分行符號分隔。 | 預置敏感詞檔案 | ||
執行調優 | 多進程個數 | 否 | 設定進程數。 | 8 | |
選擇資源群組 | 公用資源群組 | 否 | 選擇節點規格(CPU或GPU執行個體規格)、節點數量、專用網路。 | 無 | |
專有資源群組 | 否 | 選擇CPU核心數、記憶體、共用記憶體、GPU卡數、節點數量。 | 無 | ||
最大運行時間長度 | 否 | 組件最大運行時間長度,超過這個時間,作業會被kill。 | 無 | ||