自訂圖庫 - Content Moderation

Alibaba Content Security Service預設依據阿里巴巴全域風險圖庫為您提供檢測服務，可以滿足大部分的常規檢測需求。為了使檢測結果更貼合您的實際業務，Alibaba Content Security Service也支援自訂圖庫。您可以使用自訂圖庫來管理需要針對性地攔截、允許存取、人工審核的圖片，應對突發的管控需求。

背景資訊

根據用途不同，自訂圖庫分為黑名單、白名單、疑似名單。在檢測中應用自訂圖庫後，若被檢測圖片命中圖庫中的樣本，則會被打上圖庫對應的識別結果標籤。黑名單圖庫對應的識別結果是違規（攔截），白名單對應正常（允許存取），疑似名單則對應疑似（人工審核）。自訂圖庫包括系統迴流圖庫和使用者建立圖庫。

系統迴流圖庫由您的自助審核記錄自動產生，預設應用於所有同類情境的圖片檢測。您可以管理系統迴流圖庫中的圖片，不可以作業系統迴流圖庫，例如停用或刪除圖庫。
使用者建立圖庫由您自行添加，可用於某次檢測或某類檢測情境。您可以系統管理使用者建立圖庫中的圖片，也可以操作使用者建立圖庫。

說明您可以建立10個自訂圖庫（不含系統迴流圖庫），且在每個圖庫中添加最多10000張樣本圖片。

下文介紹了在Alibaba Content Security Service控制台管理內容檢測API自訂圖庫的操作方法。除了控制台操作，您還可以通過API介面或SDK完成相關操作。更多內容，請參見：

操作步驟

登入Alibaba Content Security Service控制台。
在左側導覽列，選擇機器審核 > 風險庫管理。
在風險庫管理頁面，單擊自訂圖庫頁簽後，單擊建立圖庫。

在建立圖庫對話方塊，請參考下表完成圖庫配置，並單擊確定。

表 1. 建立圖庫參數說明表
配置項	說明
名稱	為圖庫命名。名稱不超過20個字元。
使用情境	選擇圖庫的使用情境，取值：鑒黃：圖片、視頻鑒黃（scenes包含porn）。暴恐：圖片、視頻暴恐涉政識別（scenes包含terrorism）。廣告：圖片、視頻圖文違規識別（scenes包含ad）。不良情境：圖片、視頻不良情境識別（scenes包含live）。
識別結果	選擇圖庫的用途，取值：風險名單：若命中圖庫中樣本，則機審結果返回違規。疑似名單：若命中圖庫中樣本，則機審結果返回疑似。可信名單：若命中圖庫中樣本，則機審結果返回正常。
BizType	BizType允許您根據不同的業務需求配置並應用不同的圖庫，例如使用BizType指定在某次檢測中應用圖庫。BizType生效邏輯如下：圖庫設定BizType為“A”，檢測時API中傳遞了BizType為“A”，則檢測時只會使用BizType為“A”的圖庫（前提是圖庫已啟用）。其他情況下，檢測均會使用所有已啟用的圖庫。

成功建立圖庫，已建立圖庫預設啟用。

在自訂圖庫頁簽，單擊指定圖庫右側操作列下的管理。
自訂圖庫頁簽下顯示所有自訂圖庫，其中系統迴流圖庫的名稱前有系統標識，且按照使用情境_FEEDBACK_WHITE/BLACK命名。例如，LIVE_FEEDBACK_BLACK是由系統迴流產生的用於不良情境的黑名單圖庫。
在圖庫管理頁面，您可以根據需要執行如下操作。
說明在圖庫中新增、刪除圖片樣本，大約需要15分鐘生效。
- 根據風險圖片ID、時間範圍、樣本ID查詢圖片。
- 單擊圖片，展開圖片的詳細資料面板，查看近期命中數量、添加時間、風險圖片ID等資訊。
- 單擊選擇檔案，上傳圖片到圖庫。
  說明支援上傳PNG、JPG、JEPG和BMP格式的圖片，單個檔案需小於5 MB，一次最多上傳20張圖片。
- 單擊圖片下的刪除，刪除圖片；選中多張圖片後，單擊大量刪除，大量刪除圖片。