Content Moderation：圖片審核增強版2.0版AIGC及鑒偽情境檢測服務

一、使用情境

阿里雲Alibaba Content Security Service基於AIGC文生圖和圖生圖情境的特性，定製提供以下AIGC專用檢測服務：

• AI生成图片鉴别：隨著技術的進步，AIGC產生的圖片越來越接近UGC產生的圖片，而在實際業務情境中，平台可能希望判斷圖片是否疑似AI產生。基於此，阿里雲Alibaba Content Security Service提供AI產生圖片判斷的能力，根據AI產生合成的痕迹，協助使用者判斷圖片是否疑似產生合成內容。

二、服務說明

圖片審核2.0版AIGC及鑒偽檢測能力支援的服務（Service）如下：

三、檢測能力

AI生成图片鉴别服務支援判斷圖片是否疑似由AI產生合成，可返回疑似AI產生或者UGC產生標籤。

四、計費說明

圖片審核2.0版AIGC及鑒偽檢測服務支援按量後付費付費方式。

按量後付費

當您開通圖片審核2.0版服務後，預設付費方式是按量後付費，且按照實際用量結算當日費用，不調用服務不收費。

五、接入指南

步驟一：開通服務

訪問開通服務，開通圖片核2.0版服務。

開通圖片2.0版服務後，預設付費方式是按量後付費，且按照實際用量結算當日費用，不調用服務不收費。介面接入使用後系統會按使用量自動出賬，具體資訊，請參見計費說明。

步驟二：為RAM使用者授權

在接入SDK或者API之前，您需要為RAM使用者授權。您可以為阿里雲帳號和RAM使用者建立一個存取金鑰（AccessKey）。在調用阿里雲API時您需要使用AccessKey完成身分識別驗證。擷取方式，請參見擷取AccessKey。

1. 使用阿里雲帳號（主帳號）或Resource Access Management員登入RAM控制台。

2. 建立RAM使用者。具體操作，請參見建立RAM使用者。

3. 向RAM使用者授權系統策略許可權：AliyunYundunGreenWebFullAccess。具體操作，請參見管理RAM使用者的許可權。完成以上配置後，您可以使用RAM使用者調用Alibaba Content Security ServiceAPI。

步驟三：安裝並接入SDK

請參考圖片審核增強版2.0版SDK及接入指南，目前支援的接入地區如下：

步驟四：調整圖片審核的規則（可選）

您可以在Alibaba Content Security Service控制台調整圖片審核服務的檢測規則，包括檢測範圍開關、複製service、配置自訂圖庫、配置自訂詞庫、查詢檢測記錄、查詢用量等。具體操作，請參見控制台操作指南。

六、API介面

使用說明

您可以調用該介面建立圖片內容檢測任務。關於如何構造HTTP請求，請參見接入指南；您也可以直接選用已構造好的HTTP請求，更多資訊，請參見接入指南。

• 業務介面：ImageModeration

• 計費資訊：該介面為收費介面。僅對HTTP狀態代碼為200的請求進行計量計費，產生其他錯誤碼時不會計費。關於計費方式，請參見計費說明。

• 圖片要求：

  • 圖片支援以下格式：PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC（該格式最長邊需小於8192 px）、GIF（取第一幀）、ICO（取最後一圖）。

  • 圖片大小限制在20 MB以內，高或者寬不能超過16384 px，且總像素不能超過2.5億 px。像素建議大於200*200（px），像素過低會影響Alibaba Content Security Service檢測演算法的效果。

  • 圖片下載時間限制為3秒內，如果下載時間超過3秒，返回下載逾時。

QPS限制

本介面的單使用者QPS限制為100次/秒。超過限制，API調用會被限流，這可能會影響您的業務，請合理調用。如果您業務量級較大或者有緊急擴容需求需要更大QPS，請聯絡您的商務經理。

調試

在接入前，您也可以通過阿里雲OpenAPI線上調試圖片審核2.0版的介面，查看調用範例程式碼及SDK依賴資訊，方便概覽介面的使用方法和參數。

請求參數

關於在請求中必須包含的公用請求參數，請參考接入指南。

請求body是一個JSON結構體，包含以下欄位：

表 1. ServiceParameters

返回資料

表 2. Data

表 3. result

表 4. Ext

表 5. CustomImage

表 6. AigcData

樣本

請求樣本

{
    "Service": "aigcDetector_global",
    "ServiceParameters": {
        "imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
        "dataId": "img123****"
    }
}

返回樣本

{
    "Msg": "OK",
    "Code": 200,
    "Data": {
        "DataId": "img123****",
        "Result": [
            {
                "Label": "aigc",
                "Confidence": 81.88,
                "Description": "疑似由AIGC產生"
            }
        ]
    },
    "RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}

• 當檢測到命中自訂圖庫時，返回樣本：

{
    "Code": 200,
    "Data": {
        "DataId": "",
        "Ext": {
            "CustomImage": [
                {
                    "ImageId": "12345",
                    "LibId": "TEST20240307",
                    "LibName": "風險圖庫A"
                }
            ]
        },
        "Result": [
            {
                "Confidence": 100.0,
                "Label": "pornographic_adultContent_lib",
                "Description": "成人色情_命中自訂庫"
            }
        ],
        "RiskLevel": "high"
    },
    "Msg": "success",
    "RequestId": "5F572704-4C03-51DF-8957-D77BF6E7444E"
}

風險標籤釋義表

以下是風險標籤值、對應的分值區間以及對應的含義。每個風險標籤均可以在控制台進行開關配置，部分風險標籤會提供更細分檢測範圍的開關配置。具體操作，請參見控制台操作指南。

表 4.AI產生圖片鑒別（aigcDetector_global）支援標籤

Code說明

以下為介面返回code的含義說明，系統僅對code返回為200的請求計量計費，其他code不會計費。