内容安全默认依据阿里巴巴全局风险图库为您提供检测服务,可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片,应对突发的管控需求。
背景信息
根据用途不同,自定义图库分为黑名单、白名单、疑似名单。在检测中应用自定义图库后,若被检测图片命中图库中的样本,则会被打上图库对应的识别结果标签。黑名单图库对应的识别结果是违规(拦截),白名单对应正常(放行),疑似名单则对应疑似(人工审核)。自定义图库包括系统回流图库和用户创建图库。
- 系统回流图库由您的自助审核记录自动生成,默认应用于所有同类场景的图片检测。您可以管理系统回流图库中的图片,不可以操作系统回流图库,例如停用或删除图库。
- 用户创建图库由您自行添加,可用于某次检测或某类检测场景。您可以管理用户创建图库中的图片,也可以操作用户创建图库。
说明 您可以创建10个自定义图库(不含系统回流图库),且在每个图库中添加最多10000张样本图片。
下文介绍了在内容安全控制台管理内容检测API自定义图库的操作方法。除了控制台操作,您还可以通过API接口或SDK完成相关操作。更多内容,请参见:
操作步骤
相关操作
对于自定义图库(非系统回流图库),您可通过自定义图库页签中操作列下的删除、编辑和停用对目标图库进行操作。