基於大模型的圖片審核服務 - Content Moderation

阿里雲Alibaba Content Security Service圖片審核2.0版推出基於通義定製的圖片審核大模型服務，能夠全方位識別圖片中的色情、性感、涉政、暴恐、違禁、宗教、引流廣告、不良等違規內容，並支援返回大模型的原始結果。本文介紹如何使用圖片審核大模型服務。

說明

阿里雲Alibaba Content Security Service圖片審核大模型服務當前處於快速升級迭代期，如果您有任何測試反饋和建議，請聯絡您的商務經理進行反饋。

服務概覽

圖片審核2.0版基於圖片情境的內容風險特性，定製訓練通義審核大模型，提供以下圖片審核服務：

大小模型融合图片审核服务：
综合应用图片审核大模型和专家模型能力，能够全方位识别图片中的色情、性感、涉政、暴恐、违禁、宗教、引流广告、不良等违规内容。詳細檢測項請參見规则配置。

服務選型

服務	檢測說明	支援地區	典型適用情境
大小模型融合图片审核服务（postImageCheckByVL_global）	結合大模型和專家小模型，提供更細粒度的標籤（如色情細分、具體行為、特定物體等），識別範圍更廣、標籤更豐富。綜合效果最佳，適合對誤判率、漏判率都有較高要求的情境。	新加坡	社交、直播、遊戲、電商、教育等需要嚴控風險、細分策略的業務。需要對更細風險項進行自訂設定，且需要返回更細粒度的風險標籤類型的業務。新接入、對效果需求較高的使用者（推薦優先使用）。

計費說明

圖片審核2.0版圖片審核大模型服務支援按量後付費付費方式。

按量後付費

當您開通圖片審核2.0版服務後，預設付費方式是按量後付費，且按照實際用量結算當日費用，不調用服務不收費。

審核類型	支援的業務情境（服務）	計費單價
圖片審核進階（image_advanced）	大小模型融合图片审核服务：postImageCheckByVL_global	1.2美元/千次說明調用1次左側任一服務進行1次計費。根據實際調用量計費，如調用100次大小模型融合图片审核服务服務計費0.12美元。

說明

Alibaba Content Security Service2.0版的隨用隨付的計量出賬頻率為24小時/次。在出賬詳單中，moderationType對應上述審核類型欄位。您可以查看賬單詳情。

接入指南

步驟一：開通服務

訪問開通服務，開通圖片核2.0版服務。

開通圖片2.0版服務後，預設付費方式是按量後付費，且按照實際用量結算當日費用，不調用服務不收費。介面接入使用後系統會按使用量自動出賬，具體資訊，請參見計費說明。

步驟二：為RAM使用者授權

在接入SDK或者API之前，您需要為RAM使用者授權。您可以為阿里雲帳號和RAM使用者建立一個存取金鑰（AccessKey）。在調用阿里雲API時您需要使用AccessKey完成身分識別驗證。擷取方式，請參見擷取AccessKey。

使用阿里雲帳號（主帳號）或Resource Access Management員登入RAM控制台。
建立RAM使用者。具體操作，請參見建立RAM使用者。
向RAM使用者授權系統策略許可權：AliyunYundunGreenWebFullAccess。具體操作，請參見管理RAM使用者的許可權。完成以上配置後，您可以使用RAM使用者調用Alibaba Content Security ServiceAPI。

步驟三：安裝並接入SDK

請參考圖片審核增強版2.0版SDK及接入指南，目前支援的接入地區如下：

地區	外網接入地址	內網接入地址	支援服務
新加坡	https://green-cip.ap-southeast-1.aliyuncs.com	https://green-cip-vpc.ap-southeast-1.aliyuncs.com	postImageCheckByVL_global

步驟四：調整圖片審核的規則（可選）

您可以在Alibaba Content Security Service控制台調整圖片審核大模型的檢測規則，包括檢測範圍開關、複製service、配置自訂圖庫、配置自訂詞庫、查詢檢測記錄、查詢用量等。具體操作，請參見控制台操作指南。

API介面

使用說明

您可以調用該介面建立圖片內容檢測任務。關於如何構造HTTP請求，請參見接入指南；您也可以直接選用已構造好的HTTP請求，更多資訊，請參見接入指南。

業務介面：ImageModeration
計費資訊：該介面為收費介面。僅對HTTP狀態代碼為200的請求進行計量計費，產生其他錯誤碼時不會計費。關於計費方式，請參見計費說明。
圖片要求：
- 圖片支援以下格式：PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC（該格式最長邊需小於8192 px）、GIF（取第一幀）、ICO（取最後一圖）。
- 圖片大小限制在20 MB以內，高或者寬不能超過16384 px，且總像素不能超過2.5億 px。像素建議大於200*200（px），像素過低會影響Alibaba Content Security Service檢測演算法的效果。
- 圖片下載時間限制為3秒內，如果下載時間超過3秒，返回下載逾時。

QPS限制

本介面的單使用者QPS限制為20次/秒。超過限制，API調用會被限流，這可能會影響您的業務，請合理調用。如果您業務量級較大或者有緊急擴容需求需要更大QPS，請聯絡您的商務經理。

調試

在接入前，您也可以通過阿里雲OpenAPI線上調試圖片審核2.0版的介面，查看調用範例程式碼及SDK依賴資訊，方便概覽介面的使用方法和參數。

重要

線上調試能力是基於當前登入帳號調用Alibaba Content Security Service的API介面，因此調用量會計入帳號的收費用量中。

請求參數

關於在請求中必須包含的公用請求參數，請參考接入指南。

請求body是一個JSON結構體，包含以下欄位：

名稱

類型

是否必選

樣本值

描述

Service

String

是

postImageCheckByVL_global

檢測服務。取值：

postImageCheckByVL_global：大小模型融合图片审核服务

ServiceParameters

JSONString

是

內容檢測對象的相關參數集。JSON字串格式，關於每個字串的描述，請參見ServiceParameters。

表 1.ServiceParameters

名稱	類型	是否必選	樣本值	描述
imageUrl	String	是。圖片審核2.0版支援三種方式傳入圖片，請您選擇其中一種：使用圖片URL方式進行檢測，傳入imageUrl。使用OSS授權進行檢測，必須同時傳入ossBucketName、ossObjectName、ossRegionId。使用本地圖片進行檢測。上傳本地圖片檢測，不佔用您的OSS儲存空間，且檔案只儲存30分鐘。SDK接入已經整合本地圖片上傳功能，具體程式碼範例，請參見圖片審核增強版2.0版SDK及接入指南。	https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png	待檢測對象的URL，請確保該URL能通過公網訪問到，且URL地址長度不超過2048個字元。說明 URL地址中不能包含中文，且一次請求請確保僅傳入1條URL。
ossBucketName	String		bucket_01	已授權OSS空間的Bucket名。說明使用OSS圖片內網地址時必須先使用阿里雲帳號（即主帳號）訪問雲資源訪問授權頁面進行AliyunCIPScanOSSRole的授權。
ossObjectName	String		2022023/04/24/test.jpg	已授權OSS空間的檔案名稱。
ossRegionId	String		cn-beijing	OSS Bucket所在地區。
dataId	String	否	img123****	檢測對象對應的資料ID。由大小寫英文字母、數字、底線（_）、短劃線（-）、英文句號（.）組成，不超過64個字元，可以用於唯一標識您的業務資料。
infoType	String	否	vlContent	需要擷取的輔助資訊內容，取值： customImage：自訂圖庫命中資訊
referer	String	否	www.aliyun.com	referer要求標頭，用於防盜鏈等情境。長度不超過256個字元。

返回資料

名稱	類型	樣本值	描述
RequestId	String	70ED13B0-BC22-576D-9CCF-1CC12FEAC477	本次調用請求的ID，是由阿里雲為該請求產生的唯一識別碼，可用於排查和定位問題。
Data	Object		圖片內容檢測結果。更多資訊，請參見Data。
Code	Integer	200	狀態代碼。更多資訊，請參見Code說明。
Msg	String	OK	本次請求的響應訊息。

表 2.Data

名稱	類型	樣本值	描述
Result	Array		圖片檢測的風險標籤、置信分等參數結果。更多資訊，請參見result。
RiskLevel	String	high	圖片風險等級，根據最高風險的標籤返回，傳回值包括： high：高風險 medium：中風險 low：低風險 none：未檢測到風險說明高風險內容建議直接處置；中風險內容建議人工複查；低風險內容建議在高召回需求時再做處理，日常建議和未檢測到風險做相同處理。風險分值可以在Alibaba Content Security Service控制台配置。
DataId	String	img123******	檢測對象對應的資料ID。說明如果在檢測請求參數中傳入了dataId，則此處返回對應的dataId。
Ext	Object		圖片輔助參考資訊。更多資訊，請參見輔助資訊。

表 3.result

名稱	類型	樣本值	描述
Label	String	tm_auto	圖片內容檢測運算後返回的標籤。同一張圖片可能會檢出多個標籤和分值。支援的標籤，請參見：大小模型融合圖片審核服務_出海版大小模型融合圖片審核服務（postImageCheckByVL_cbglobal）支援標籤
Confidence	Float	81.22	置信分值，0到100分，保留到小數點後2位。部分標籤無置信分，更多資訊，請參見風險標籤釋義表。
Description	String	煙火類內容	對Labal欄位的說明。重要該欄位為Label欄位的解釋說明，可能會變更調整，實際處理結果時建議處理Label欄位，不要基於該欄位進行結果處置。
RiskLevel	String	high	當前標籤的風險等級，根據設定的高低風險分返回，傳回值包括： high：高風險 medium：中風險 low：低風險 none：未檢測到風險

返回的輔助資訊（點擊展開詳情）

表 4. Ext

名稱	類型	樣本值	描述
CustomImage	JSONArray		如果命中自訂圖庫，返回命中的自訂圖庫資訊。更多資訊，請參見CustomImage。

表 5. CustomImage

名稱	類型	樣本值	描述
LibId	String	lib0001	命中的自訂圖庫ID。
LibName	String	自訂圖庫A	命中的自訂圖庫名。
ImageId	String	20240307	命中的自訂圖片ID。

樣本

請求樣本

{
    "Service": "postImageCheckByVL_global",
    "ServiceParameters": {
        "imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
        "dataId": "img0307****"
    }
}

返回樣本

說明

文檔中的請求樣本和返回樣本為了便於閱讀，做了格式化處理，實際返回結果是沒有進行換行、縮排等處理。

風險標籤釋義表

以下是風險標籤值、對應的分值區間以及對應的含義。每個風險標籤均可以在控制台進行開關配置，部分風險標籤會提供更細分檢測範圍的開關配置。具體操作，請參見控制台操作指南。

說明

建議您將系統返回的風險標籤和置信分做一定周期的資料存放區，以便於在後續內容治理時參考，可根據風險標籤設定人工審核或標註的優先順序、分層分類的內容治理措施。

表 6.大小模型融合图片审核服务（postImageCheckByVL_global）支援標籤

標籤值（label）	置信分區間（confidence）	中文含義
pornographic_adultContent	0~100分，分數越高信賴度越高	疑似含有成人與性相關的情況。
pornographic_cartoon	0~100分，分數越高信賴度越高	畫面疑似含有卡通與性相關的情況。
pornographic_adultToys	0~100分，分數越高信賴度越高	畫面中疑似含有成人器具內容。
pornographic_artwork	0~100分，分數越高信賴度越高	畫面中疑似含有藝術品與性相關的情況。
pornographic_underage	0~100分，分數越高信賴度越高	畫面疑似含有兒童與性相關的情況。
pornographic_adultContent_tii	0~100分，分數越高信賴度越高	圖片中文字疑似與性相關的情況。
pornographic_suggestive_tii	0~100分，分數越高信賴度越高	圖中文字含低俗內容。
pornographic_o_tii	0~100分，分數越高信賴度越高	圖中文字含LGBT類內容。
pornographic_organs_tii	0~100分，分數越高信賴度越高	圖中文字含性器官描述內容。
pornographic_adultToys_tii	0~100分，分數越高信賴度越高	圖中文字含成人玩具類內容。
sexual_suggestiveContent	0~100分，分數越高信賴度越高	畫面疑似低俗或性暗示內容。
sexual_femaleUnderwear	0~100分，分數越高信賴度越高	畫面疑似含有內衣泳衣內容。
sexual_cleavage	0~100分，分數越高信賴度越高	畫面疑似含有女性乳溝特徵。
sexual_maleTopless	0~100分，分數越高信賴度越高	畫面疑似含有男性赤膊內容。
sexual_cartoon	0~100分，分數越高信賴度越高	畫面疑似含有卡通性感內容。
sexual_femaleShoulder	0~100分，分數越高信賴度越高	畫面疑似含有肩部性感內容。
sexual_femaleLeg	0~100分，分數越高信賴度越高	畫面疑似含有腿部性感內容。
sexual_pregnancy	0~100分，分數越高信賴度越高	畫面疑似含有孕照哺乳內容。
sexual_feet	0~100分，分數越高信賴度越高	畫面疑似含有腳部性感內容。
sexual_kiss	0~100分，分數越高信賴度越高	畫面疑似含有親吻內容。
sexual_intimacy	0~100分，分數越高信賴度越高	畫面疑似含有親密行為內容。
sexual_intimacyCartoon	0~100分，分數越高信賴度越高	畫面疑似含有卡通動漫親密動作。
political_historicalNihility	0~100分，分數越高信賴度越高	畫面疑似涉及虛無歷史或不宜傳播的歷史事件。
political_historicalNihility_tii	0~100分，分數越高信賴度越高	圖中文字疑似歷史虛無。
political_politicalFigure_1	0~100分，分數越高信賴度越高	畫面疑似含現任曆任領導人。
political_politicalFigure_2	0~100分，分數越高信賴度越高	畫面疑似涉及領導人家屬。
political_politicalFigure_3	0~100分，分數越高信賴度越高	畫面疑似涉及省、市政府人員。
political_politicalFigure_4	0~100分，分數越高信賴度越高	畫面疑似涉及國外領導人及家屬。
political_politicalFigure_name_tii	0~100分，分數越高信賴度越高	圖中文字含領導人姓名。
political_prohibitedPerson_1	0~100分，分數越高信賴度越高	畫面疑似含有國家級落馬官員。
political_prohibitedPerson_2	0~100分，分數越高信賴度越高	畫面疑似含有省市級落馬官員。
political_prohibitedPerson_tii	0~100分，分數越高信賴度越高	圖中文字疑似含落馬官員的姓名。
political_taintedCelebrity	0~100分，分數越高信賴度越高	畫面疑似包含劣跡或重大負面的公眾人物。
political_taintedCelebrity_tii	0~100分，分數越高信賴度越高	圖中文字疑似有劣跡藝人的姓名。
political_CNFlag	0~100分，分數越高信賴度越高	畫面疑似含有中國國旗。
political_CNMap	0~100分，分數越高信賴度越高	畫面疑似含有中國地圖。
political_logo	0~100分，分數越高信賴度越高	畫面疑似含有禁宣媒體標識。
political_outfit	0~100分，分數越高信賴度越高	畫面疑似含有軍警服裝、作戰部隊服裝。
political_badge	0~100分，分數越高信賴度越高	畫面疑似含有國徽、黨徽。
political_racism_tii	0~100分，分數越高信賴度越高	圖中文字疑似含有特殊的表達。更多資訊，請參見Alibaba Content Security Service控制台。
violent_explosion	0~100分，分數越高信賴度越高	畫面疑似含有煙火類內容元素。
violent_armedForces	0~100分，分數越高信賴度越高	畫面疑似包含暴恐組織。
violent_burning	0~100分，分數越高信賴度越高	畫面疑似包含燃燒內容。
violent_weapon	0~100分，分數越高信賴度越高	畫面疑似包含軍器裝備。
violent_crowding	0~100分，分數越高信賴度越高	畫面疑似有人群聚集。
violent_gun	0~100分，分數越高信賴度越高	畫面疑似包含槍支。
violent_knives	0~100分，分數越高信賴度越高	畫面疑似包含刀具。
violent_horrific	0~100分，分數越高信賴度越高	畫面疑似包含驚悚內容。
violent_nazi	0~100分，分數越高信賴度越高	畫面疑似包含納粹內容。
violent_bloody	0~100分，分數越高信賴度越高	畫面疑似含有血腥內容。
violent_extremistGroups_tii	0~100分，分數越高信賴度越高	圖中文字含暴恐組織內容。
violent_extremistIncident_tii	0~100分，分數越高信賴度越高	圖中文字含暴恐事件內容。
violence_weapons_tii	0~100分，分數越高信賴度越高	圖中文字含槍支彈藥武器的描述。
violent_ACU	0~100分，分數越高信賴度越高	畫面疑似包含作戰服。
contraband_drug	0~100分，分數越高信賴度越高	畫面疑似毒品、藥品。
contraband_drug_tii	0~100分，分數越高信賴度越高	圖中文字疑似描述違禁毒品。
contraband_gamble	0~100分，分數越高信賴度越高	畫面疑似賭博物品。
contraband_gamble_tii	0~100分，分數越高信賴度越高	圖中文字疑似描述賭博行為。
contraband_certificate_tii	0~100分，分數越高信賴度越高	圖中文字疑似含辦證套現類廣告引流。
religion_flag	0~100分，分數越高信賴度越高	畫面疑似含有涉宗教的旗幟元素。
religion_clothing	0~100分，分數越高信賴度越高	疑似含有特定服飾或標識。更多資訊，請參見Alibaba Content Security Service控制台。
religion_logo	0~100分，分數越高信賴度越高
religion_taboo1_tii	0~100分，分數越高信賴度越高
religion_taboo2_tii	0~100分，分數越高信賴度越高
flag_country	0~100分，分數越高信賴度越高	畫面疑似含有旗幟相關內容
pt_logotoSocialNetwork	0~100分，分數越高信賴度越高	畫面中含有常見網路社交平台浮水印。
QRCode	0~100分，分數越高信賴度越高	圖中包含二維碼。
pt_logo	0~100分，分數越高信賴度越高	畫面疑似含有LOGO內容。
pt_toDirectContact_tii	0~100分，分數越高信賴度越高	圖中文字含連絡方式類引流資訊
pt_custom_01	0~100分，分數越高信賴度越高	自訂標籤01。
pt_custom_02	0~100分，分數越高信賴度越高	自訂標籤02。
inappropriate_smoking	0~100分，分數越高信賴度越高	畫面疑似包含煙相關內容。
inappropriate_drinking	0~100分，分數越高信賴度越高	畫面疑似包含酒相關內容。
inappropriate_tattoo	0~100分，分數越高信賴度越高	畫面疑似包含紋身內容。
inappropriate_middleFinger	0~100分，分數越高信賴度越高	畫面疑似包含豎中指內容。
inappropriate_foodWasting	0~100分，分數越高信賴度越高	畫面疑似包含浪費糧食內容。
profanity_oral_tii	0~100分，分數越高信賴度越高	圖中文字含不文明低俗口頭語
profanity_offensive_tii	0~100分，分數越高信賴度越高	圖中文字含嚴重辱罵內容

此外，上述每個風險標籤也支援配置自訂圖庫實現，如檢測的圖片與自訂圖庫中的圖片相似性高，則系統會返回對應的風險標籤。為了便於區分，標籤值（label）格式為原風險標籤值_lib。例如，您對“violent_explosion”配置了自訂圖庫，當檢測的圖片匹配到自訂圖庫中的任意一張圖片且相似性較高，系統會在label參數中返回violent_explosion_lib，對應的 confidence參數會以分值的形式代表相似程度。

當系統對傳入的圖片檢測未發現異常，或者與您配置的免審圖片中任意一張相似性高，則系統返回的標籤值和置信分滿足如下表格。

標籤值（label）	置信分區間（confidence）	中文含義
nonLabel	無該欄位	該圖片未檢測出風險，或者您已全關閉檢測項。更多資訊，請參見Alibaba Content Security Service控制台。
nonLabel_lib	0~100分，分數越高信賴度越高	該圖片與您選配的免審圖片中存在較高相似性。更多資訊，請參見Alibaba Content Security Service控制台。

Code說明

以下為介面返回code的含義說明，系統僅對code返回為200的請求計量計費，其他code不會計費。

Code	說明
200	請求正常。
400	請求參數為空白。
401	請求參數錯誤。
402	請求參數長度不符合介面規定，請檢查並修改。
403	請求超過QPS限制，請檢查並調整並發。
404	傳入的圖片下載遇到錯誤，請檢查或重試。
405	傳入的圖片下載逾時，可能是因為圖片無法訪問，請檢查調整後重試。
406	傳入的圖片過大，請檢查調整圖片大小後再重試。
407	傳入的圖片格式暫不支援，請檢查調整後重試。
408	該帳號無許可權調用該介面，可能是帳號未開通或者已欠費，或者調用帳號未被授權訪問。
500	系統異常。