基于大模型的图片审核服务 - 内容安全

阿里云内容安全图片审核2.0版推出基于千问定制的图片审核大模型服务，能够全方位识别图片中的色情、性感、涉政、暴恐、违禁、宗教、引流广告、不良等违规内容，并支持返回大模型的原始结果。本文介绍如何使用图片审核大模型服务。

说明

阿里云内容安全图片审核大模型服务当前处于快速升级迭代期，如果您有任何测试反馈和建议，请联系您的商务经理进行反馈。

服务概览

图片审核2.0版基于图片场景的内容风险特性，定制训练千问审核大模型，提供以下图片审核服务：

大小模型融合图片审核服务：

综合应用图片审核大模型和专家模型能力，能够全方位识别图片中的色情、性感、涉政、暴恐、违禁、宗教、引流广告、不良等违规内容（注：大模型推理计算统一在新加坡区域进行）。详细检测项请参见规则配置。

服务选型

服务	检测说明	支持地域	典型适用场景
大小模型融合图片审核服务（postImageCheckByVL_global）	结合大模型和专家小模型，提供更细粒度的标签（如色情细分、具体行为、特定物体等），识别范围更广、标签更丰富。综合效果最佳，适合对误判率、漏判率都有较高要求的场景。	新加坡	社交、直播、游戏、电商、教育等需要严控风险、细分策略的业务。需要对更细风险项进行自定义设置，且需要返回更细粒度的风险标签类型的业务。新接入、对效果需求较高的用户（推荐优先使用）。

计费说明

图片审核2.0版图片审核大模型服务支持按量后付费付费方式。

按量后付费

当您开通图片审核2.0版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。

审核类型	支持的业务场景（服务）	计费单价
图片审核高级（image_advanced）	大小模型融合图片审核服务：postImageCheckByVL_global	1.2美元/千次说明调用1次左侧任一服务进行1次计费。根据实际调用量计费，如调用100次大小模型融合图片审核服务服务计费0.12美元。

说明

内容安全2.0版的按量付费的计量出账频率为24小时/次。在出账详单中，moderationType对应上述审核类型字段。您可以查看账单详情。

接入指南

步骤一：开通服务

访问开通服务，开通图片核2.0版服务。

开通图片2.0版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。接口接入使用后系统会按使用量自动出账，具体信息，请参见计费说明。

步骤二：为RAM用户授权

在接入SDK或者API之前，您需要为RAM用户授权。您可以为阿里云账号和RAM用户创建一个访问密钥（AccessKey）。在调用阿里云API时您需要使用AccessKey完成身份验证。获取方式，请参见获取AccessKey。

使用阿里云账号（主账号）或RAM管理员登录RAM控制台。
创建RAM用户。具体操作，请参见创建RAM用户。
向RAM用户授权系统策略权限：AliyunYundunGreenWebFullAccess。具体操作，请参见为RAM用户授权。完成以上配置后，您可以使用RAM用户调用内容安全API。

步骤三：安装并接入SDK

请参考图片审核2.0版SDK及接入指南，目前支持的接入地域如下：

地域	外网接入地址	内网接入地址	支持服务
新加坡	green-cip.ap-southeast-1.aliyuncs.com	green-cip-vpc.ap-southeast-1.aliyuncs.com	postImageCheckByVL_global
美国（弗吉尼亚）	green-cip.us-east-1.aliyuncs.com	green-cip-vpc.us-east-1.aliyuncs.com
德国（法兰克福）	green-cip.eu-central-1.aliyuncs.com	green-cip-vpc.eu-central-1.aliyuncs.com

重要

美国（弗吉尼亚）和德国（法兰克福）区域的图片审核大模型推理计算由新加坡节点支持，推理结果处理、数据和日志存储在美国（弗吉尼亚）和德国（法兰克福）本地进行。

步骤四：调整图片审核的规则（可选）

您可以在内容安全控制台调整图片审核大模型的检测规则，包括检测范围开关、复制service、配置自定义图库、配置自定义词库、查询检测记录、查询用量等。具体操作，请参见控制台操作指南。

API接口

使用说明

您可以调用该接口创建图片内容检测任务。关于如何构造HTTP请求，请参见接入指南；您也可以直接选用已构造好的HTTP请求，更多信息，请参见接入指南。

业务接口：ImageModeration
计费信息：该接口为收费接口。仅对HTTP状态码为200的请求进行计量计费，产生其他错误码时不会计费。关于计费方式，请参见计费说明。
图片要求：
- 图片支持以下格式：PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC（该格式最长边需小于8192 px）、GIF（取第一帧）、ICO（取最后一图）。
- 图片大小限制在20 MB以内，高或者宽不能超过16384 px，且总像素不能超过2.5亿 px。像素建议大于200*200（px），像素过低会影响内容安全检测算法的效果。
- 图片下载时间限制为3秒内，如果下载时间超过3秒，返回下载超时。

QPS限制

本接口的单用户QPS限制为50次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。如果您业务量级较大或者有紧急扩容需求需要更大QPS，请联系您的商务经理。

调试

在接入前，您也可以通过阿里云OpenAPI在线调试图片审核2.0版的接口，查看调用示例代码及SDK依赖信息，方便概览接口的使用方法和参数。

重要

在线调试能力是基于当前登录账号调用内容安全的API接口，因此调用量会计入账号的收费用量中。

请求参数

关于在请求中必须包含的公共请求参数，请参考接入指南。

请求body是一个JSON结构体，包含以下字段：

名称

类型

是否必选

示例值

描述

Service

String

是

postImageCheckByVL_global

检测服务。取值：

postImageCheckByVL_global：大小模型融合图片审核服务

ServiceParameters

JSONString

是

内容检测对象的相关参数集。JSON字符串格式，关于每个字符串的描述，请参见ServiceParameters。

表 1.ServiceParameters

名称	类型	是否必选	示例值	描述
imageUrl	String	是。图片审核2.0版支持三种方式传入图片，请您选择其中一种：使用图片URL方式进行检测，传入imageUrl。使用OSS授权进行检测，必须同时传入ossBucketName、ossObjectName、ossRegionId。使用本地图片进行检测。上传本地图片检测，不占用您的OSS存储空间，且文件只存储30分钟。SDK接入已经集成本地图片上传功能，具体代码示例，请参见图片审核2.0版SDK及接入指南。	https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png	待检测对象的URL，请确保该URL能通过公网访问到，且URL地址长度不超过2048个字符。说明 URL地址中不能包含中文，且一次请求请确保仅传入1条URL。
ossBucketName	String		bucket_01	已授权OSS空间的Bucket名。说明使用OSS图片内网地址时必须先使用阿里云账号（即主账号）访问云资源访问授权页面进行AliyunCIPScanOSSRole的授权。
ossObjectName	String		2022023/04/24/test.jpg	已授权OSS空间的文件名。
ossRegionId	String		cn-beijing	OSS Bucket所在区域。
dataId	String	否	img123****	检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不超过64个字符，可以用于唯一标识您的业务数据。
infoType	String	否	vlContent	需要获取的辅助信息内容，取值： customImage：自定义图库命中信息
referer	String	否	www.aliyun.com	referer请求头，用于防盗链等场景。长度不超过256个字符。

返回数据

名称	类型	示例值	描述
RequestId	String	70ED13B0-BC22-576D-9CCF-1CC12FEAC477	本次调用请求的ID，是由阿里云为该请求生成的唯一标识符，可用于排查和定位问题。
Data	Object		图片内容检测结果。更多信息，请参见Data。
Code	Integer	200	状态码。更多信息，请参见Code说明。
Msg	String	OK	本次请求的响应消息。

表 2.Data

名称	类型	示例值	描述
Result	Array		图片检测的风险标签、置信分等参数结果。更多信息，请参见result。
RiskLevel	String	high	图片风险等级，根据最高风险的标签返回，返回值包括： high：高风险 medium：中风险 low：低风险 none：未检测到风险说明高风险内容建议直接处置；中风险内容建议人工复查；低风险内容建议在高召回需求时再做处理，日常建议和未检测到风险做相同处理。风险分值可以在内容安全控制台配置。
DataId	String	img123******	检测对象对应的数据ID。说明如果在检测请求参数中传入了dataId，则此处返回对应的dataId。
Ext	Object		图片辅助参考信息。更多信息，请参见辅助信息。

表 3.result

名称	类型	示例值	描述
Label	String	tm_auto	图片内容检测运算后返回的标签。同一张图片可能会检出多个标签和分值。支持的标签，请参见：大小模型融合图片审核服务（postImageCheckByVL_global）支持标签
Confidence	Float	81.22	置信分值，0到100分，保留到小数点后2位。部分标签无置信分，更多信息，请参见风险标签释义表。
Description	String	烟火类内容	对Labal字段的说明。重要该字段为Label字段的解释说明，可能会变更调整，实际处理结果时建议处理Label字段，不要基于该字段进行结果处置。
RiskLevel	String	high	当前标签的风险等级，根据设置的高低风险分返回，返回值包括： high：高风险 medium：中风险 low：低风险 none：未检测到风险

返回的辅助信息（点击展开详情）

表 4. Ext

名称	类型	示例值	描述
CustomImage	JSONArray		如果命中自定义图库，返回命中的自定义图库信息。更多信息，请参见CustomImage。

表 5. CustomImage

名称	类型	示例值	描述
LibId	String	lib0001	命中的自定义图库ID。
LibName	String	自定义图库A	命中的自定义图库名。
ImageId	String	20240307	命中的自定义图片ID。

示例

请求示例

{
    "Service": "postImageCheckByVL_global",
    "ServiceParameters": {
        "imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
        "dataId": "img0307****"
    }
}

返回示例

说明

文档中的请求示例和返回示例为了便于阅读，做了格式化处理，实际返回结果是没有进行换行、缩进等处理。

风险标签释义表

以下是风险标签值、对应的分值区间以及对应的含义。每个风险标签均可以在控制台进行开关配置，部分风险标签会提供更细分检测范围的开关配置。具体操作，请参见控制台操作指南。

说明

建议您将系统返回的风险标签和置信分做一定周期的数据存储，以便于在后续内容治理时参考，可根据风险标签设定人工审核或标注的优先级、分层分类的内容治理措施。

表 6.大小模型融合图片审核服务（postImageCheckByVL_global）支持标签

标签值（label）	置信分区间（confidence）	中文含义
pornographic_adultContent	0~100分，分数越高置信度越高	疑似含有成人色情内容。
pornographic_cartoon	0~100分，分数越高置信度越高	画面疑似含有卡通色情内容。
pornographic_adultToys	0~100分，分数越高置信度越高	画面中疑似含有成人器具内容。
pornographic_artwork	0~100分，分数越高置信度越高	画面中疑似含有艺术品色情内容。
pornographic_underage	0~100分，分数越高置信度越高	画面疑似含有儿童色情内容。
pornographic_adultContent_tii	0~100分，分数越高置信度越高	图片中文字疑似色情内容。
pornographic_suggestive_tii	0~100分，分数越高置信度越高	图中文字含低俗内容。
pornographic_o_tii	0~100分，分数越高置信度越高	图中文字含LGBT类内容。
pornographic_organs_tii	0~100分，分数越高置信度越高	图中文字含性器官描述内容。
pornographic_adultToys_tii	0~100分，分数越高置信度越高	图中文字含成人玩具类内容。
sexual_suggestiveContent	0~100分，分数越高置信度越高	画面疑似低俗或性暗示内容。
sexual_femaleUnderwear	0~100分，分数越高置信度越高	画面疑似含有内衣泳衣内容。
sexual_cleavage	0~100分，分数越高置信度越高	画面疑似含有女性乳沟特征。
sexual_maleTopless	0~100分，分数越高置信度越高	画面疑似含有男性赤膊内容。
sexual_cartoon	0~100分，分数越高置信度越高	画面疑似含有卡通性感内容。
sexual_femaleShoulder	0~100分，分数越高置信度越高	画面疑似含有肩部性感内容。
sexual_femaleLeg	0~100分，分数越高置信度越高	画面疑似含有腿部性感内容。
sexual_pregnancy	0~100分，分数越高置信度越高	画面疑似含有孕照哺乳内容。
sexual_feet	0~100分，分数越高置信度越高	画面疑似含有脚部性感内容。
sexual_kiss	0~100分，分数越高置信度越高	画面疑似含有亲吻内容。
sexual_intimacy	0~100分，分数越高置信度越高	画面疑似含有亲密行为内容。
sexual_intimacyCartoon	0~100分，分数越高置信度越高	画面疑似含有卡通动漫亲密动作。
political_historicalNihility	0~100分，分数越高置信度越高	画面疑似涉及虚无历史或不宜传播的历史事件。
political_historicalNihility_tii	0~100分，分数越高置信度越高	图中文字疑似历史虚无。
political_politicalFigure_1	0~100分，分数越高置信度越高	画面疑似含现任历任领导人。
political_politicalFigure_2	0~100分，分数越高置信度越高	画面疑似涉及领导人家属。
political_politicalFigure_3	0~100分，分数越高置信度越高	画面疑似涉及省、市政府人员。
political_politicalFigure_4	0~100分，分数越高置信度越高	画面疑似涉及国外领导人及家属。
political_politicalFigure_name_tii	0~100分，分数越高置信度越高	图中文字含领导人姓名。
political_prohibitedPerson_1	0~100分，分数越高置信度越高	画面疑似含有国家级落马官员。
political_prohibitedPerson_2	0~100分，分数越高置信度越高	画面疑似含有省市级落马官员。
political_prohibitedPerson_tii	0~100分，分数越高置信度越高	图中文字疑似含落马官员的姓名。
political_taintedCelebrity	0~100分，分数越高置信度越高	画面疑似包含劣迹或重大负面的公众人物。
political_taintedCelebrity_tii	0~100分，分数越高置信度越高	图中文字疑似有劣迹艺人的姓名。
political_CNFlag	0~100分，分数越高置信度越高	画面疑似含有中国国旗。
political_CNMap	0~100分，分数越高置信度越高	画面疑似含有中国地图。
political_logo	0~100分，分数越高置信度越高	画面疑似含有禁宣媒体标识。
political_outfit	0~100分，分数越高置信度越高	画面疑似含有军警服装、作战部队服装。
political_badge	0~100分，分数越高置信度越高	画面疑似含有国徽、党徽。
political_racism_tii	0~100分，分数越高置信度越高	图中文字疑似含有特殊的表达。更多信息，请参见内容安全控制台。
violent_explosion	0~100分，分数越高置信度越高	画面疑似含有烟火类内容元素。
violent_armedForces	0~100分，分数越高置信度越高	画面疑似包含暴恐组织。
violent_burning	0~100分，分数越高置信度越高	画面疑似包含燃烧内容。
violent_weapon	0~100分，分数越高置信度越高	画面疑似包含军器装备。
violent_crowding	0~100分，分数越高置信度越高	画面疑似有人群聚集。
violent_gun	0~100分，分数越高置信度越高	画面疑似包含枪支。
violent_knives	0~100分，分数越高置信度越高	画面疑似包含刀具。
violent_horrific	0~100分，分数越高置信度越高	画面疑似包含惊悚内容。
violent_nazi	0~100分，分数越高置信度越高	画面疑似包含纳粹内容。
violent_bloody	0~100分，分数越高置信度越高	画面疑似含有血腥内容。
violent_extremistGroups_tii	0~100分，分数越高置信度越高	图中文字含暴恐组织内容。
violent_extremistIncident_tii	0~100分，分数越高置信度越高	图中文字含暴恐事件内容。
violence_weapons_tii	0~100分，分数越高置信度越高	图中文字含枪支弹药武器的描述。
violent_ACU	0~100分，分数越高置信度越高	画面疑似包含作战服。
contraband_drug	0~100分，分数越高置信度越高	画面疑似毒品、药品。
contraband_drug_tii	0~100分，分数越高置信度越高	图中文字疑似描述违禁毒品。
contraband_gamble	0~100分，分数越高置信度越高	画面疑似赌博物品。
contraband_gamble_tii	0~100分，分数越高置信度越高	图中文字疑似描述赌博行为。
contraband_certificate_tii	0~100分，分数越高置信度越高	图中文字疑似含办证套现类广告引流。
religion_flag	0~100分，分数越高置信度越高	画面疑似含有涉宗教的旗帜元素。
religion_clothing	0~100分，分数越高置信度越高	疑似含有特定服饰或标识。更多信息，请参见内容安全控制台。
religion_logo	0~100分，分数越高置信度越高
religion_taboo1_tii	0~100分，分数越高置信度越高
religion_taboo2_tii	0~100分，分数越高置信度越高
flag_country	0~100分，分数越高置信度越高	画面疑似含有旗帜相关内容
pt_logotoSocialNetwork	0~100分，分数越高置信度越高	画面中含有常见网络社交平台水印。
QRCode	0~100分，分数越高置信度越高	图中包含二维码。
pt_logo	0~100分，分数越高置信度越高	画面疑似含有LOGO内容。
pt_toDirectContact_tii	0~100分，分数越高置信度越高	图中文字含联系方式类引流信息
pt_custom_01	0~100分，分数越高置信度越高	自定义标签01。
pt_custom_02	0~100分，分数越高置信度越高	自定义标签02。
inappropriate_smoking	0~100分，分数越高置信度越高	画面疑似包含烟相关内容。
inappropriate_drinking	0~100分，分数越高置信度越高	画面疑似包含酒相关内容。
inappropriate_tattoo	0~100分，分数越高置信度越高	画面疑似包含纹身内容。
inappropriate_middleFinger	0~100分，分数越高置信度越高	画面疑似包含竖中指内容。
inappropriate_foodWasting	0~100分，分数越高置信度越高	画面疑似包含浪费粮食内容。
profanity_oral_tii	0~100分，分数越高置信度越高	图中文字含不文明低俗口头语
profanity_offensive_tii	0~100分，分数越高置信度越高	图中文字含严重辱骂内容

此外，上述每个风险标签也支持配置自定义图库实现，如检测的图片与自定义图库中的图片相似度高，则系统会返回对应的风险标签。为了便于区分，标签值（label）格式为原风险标签值_lib。例如，您对“violent_explosion”配置了自定义图库，当检测的图片匹配到自定义图库中的任意一张图片且相似度较高，系统会在label参数中返回violent_explosion_lib，对应的 confidence参数会以分值的形式代表相似程度。

当系统对传入的图片检测未发现异常，或者与您配置的免审图片中任意一张相似度高，则系统返回的标签值和置信分满足如下表格。

标签值（label）	置信分区间（confidence）	中文含义
nonLabel	无该字段	该图片未检测出风险，或者您已全关闭检测项。更多信息，请参见内容安全控制台。
nonLabel_lib	0~100分，分数越高置信度越高	该图片与您选配的免审图片中存在较高相似度。更多信息，请参见内容安全控制台。

Code说明

以下为接口返回code的含义说明，系统仅对code返回为200的请求计量计费，其他code不会计费。

Code	说明
200	请求正常。
400	请求参数为空。
401	请求参数错误。
402	请求参数长度不符合接口规定，请检查并修改。
403	请求超过QPS限制，请检查并调整并发。
404	传入的图片下载遇到错误，请检查或重试。
405	传入的图片下载超时，可能是因为图片无法访问，请检查调整后重试。
406	传入的图片过大，请检查调整图片大小后再重试。
407	传入的图片格式暂不支持，请检查调整后重试。
408	该账号无权限调用该接口，可能是账号未开通或者已欠费，或者调用账号未被授权访问。
500	系统异常。