全部產品
Search
文件中心

AI Guardrails:自助審核

更新時間:Sep 17, 2026

Alibaba Content Security Service控制台中呈現了內容檢測API檢測出的資料結果。針對您的業務情境,您可以對機器的檢測結果進行二次人工審核。人工審核後,下次同樣的檢測內容識別出的結果會與您設定的結果保持一致。本文介紹了使用自助審核的具體操作。

背景資訊

  • 自助審核預設只展示機器審核結果為疑似(review)或者違規(block)的資料。如需展示機審結果正常(pass)的資料,請在控制台上進行設定,具體請參見自訂機審標準。

  • 映像、視頻、文本均可以進行人工審核,但只有映像、文本的自助審核結果會自動迴流入風險樣本庫。

  • 機器的檢測資料只保留最多7天,請及時處理。

操作步驟

  1. 登入Alibaba Content Security Service控制台Alibaba Content Security Service控制台。

  2. 在左側導覽列,選擇機器審核V1.0 > 自助审核頁面。

  3. 通過頁簽選擇要審核的內容的類型(图片、视频、文本),單擊進入審核頁面。

  4. 按照以下方式進行標記。

    說明

    僅以圖片標記為例,其他類型內容的標記方法與之類似。

    自助審核頁面上方提供識別情境、命中分類、識別結果、審核結果等篩選條件以及時間範圍選取器。背景色標識識別結果:綠色為正常、橙色為疑似、紅色為違規。

    • 對於您認為正常,卻被識別為違規(block)或者疑似(review)的樣本,將其標記為正常。

    • 對於您認為需要管控,卻被識別為疑似(review)或者正常(pass)的樣本,將其標記為违规,並選擇違規原因:鑒黃、暴恐涉政、图文违规、不良场景。

      系統彈出請選擇原因對話方塊,勾選對應的違規原因後單擊確定完成標記。

    • 支援勾選多張圖片後進行批量處理,如批量標記正常、批量標記違規。

    • 單擊樣本圖片,查看其详细信息。詳細資料包括URL、流入時間、TaskID、DataID、bizType等欄位,每個欄位旁提供複製按鈕。

    被標記樣本以及類似樣本的檢測結果將會按照您的標記結果即時糾正,且自動迴流入對應的樣本庫中。