全部产品
Search
文档中心

AI 安全护栏:功能特性

更新时间:Apr 19, 2024

内容审核增强版

内容审核增强版升级核心引擎,提供面向昵称头像、聊天互动、图文分享、游戏连麦、直播课程等多种业务场景的审核服务。增强版支持图片、视频、语音、文本等不同内容形态,能够同时识别多种违规风险,并提供业务自定义规则。

功能集

功能

功能描述

参考文档

图片审核增强版

通用基线检测

支持对图片中色情、性感、涉政、暴恐、违禁、恶意内容(图片隐藏视频、播放器等)等偏红线类内容进行检测,包括图片中画面内容和图片中文字内容。

图片审核增强版介绍

用户风险监测范围设置

用于设置用户的风险监测范围,支持对80+标签,100+检测细项的设置

调整图片的风险检测范围

图片审核Service复制

根据不同业务的需求,对同一个service进行复制并设置不同的风险检测范围,以满足业务差异化的审核需求。

为多个业务设置差异化的风险检测范围

标签命中自定义图库设置

对于检测的标签,可以设置某些自定义库命中之后,返回该标签

专项检测或应急治理特定已知的图片

免审图设置

可以设置某个或者多个自定义图库为免审库,命中免审库的图片会直接返回 “nonLabel_lib” 标签

对可信的图片免除风险检测

检测结果查询

支持对30天内的API识别结果进行查询

逐条查询图片检测的详细结果

用量统计

对API接口调用数据进行统计,统计数据保存一年,支持查询、导出跨度为两个月的数据

统计近期图片检测量级

文本审核增强版

国际业务聊天互动审核

东南亚、中东和欧洲等地区的社交互娱,结合国际化业务特性,采用单独的审核策略和标签体系。

-

用户自定词库添加和管理

控制台支持用户创建、管理自定义词库,添加和导入关键词,可用于灵活满足业务需求

-

文本审核service复制

根据不同业务的需求,对同一个service进行复制并设置不同的风险检测范围,以满足业务差异化的审核需求。

-

支持风险识别决策引擎中应用

支持通过决策引擎接入文本审核增强版服务,自定义输出标签、细分标签维度。

-

视频审核增强版

视频文件检测

检测视频文件中是否包含画面或语音违规信息。建议对涉及开放公网访问的视频文件均进行该项检测。

-

视频直播流检测

检测视频直播流中是否包含画面或语音违规信息。建议对涉及开放公网访问的直播流均进行该项检测。

-

风险检测策略调整

根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。

-

视频审核Service复制

根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。

-

视频审核结果查询

对于检测的视频,支持根据taskId、dataId、service、画面标签、语音标签查询具体视频的详细检测结果。

-

视频审核用量查询

通过统计和查看近期视频检测量级,对具体视频内容制定进一步的审核或治理措施。

-

语音审核增强版

音视频媒体多语言检测

支持中文、英文和中英文混合的音频内容。采用国际化标签体系,增加亵渎、地域等风险标签

语音审核增强版多语言服务

内容审核1.0版

内容审核提供图片、视频、语音、文字、网页等多媒体的内容风险智能识别和审核服务,帮助用户发现色情、暴恐、政治敏感等风险内容。

功能集

功能

功能描述

参考文档

图片审核1.0版

图片色情识别

识别图片色情和低俗内容

图片涉政暴恐识别

识别图片内容中的涉政、暴恐血腥风险,包括人物、标识、事件等

-

图片不良内容识别

识别图片内容中的不良场景,包括抽烟、喝酒、赌博等

-

图片图文违规识别

识别图片中文字内容的涉黄、涉政、辱骂、广告和二维码等内容

-

图片特定LOGO识别

识别图片内容中的特定LOGO,包括商标、台标等

-

用户自定义图库

支持用户自定义黑白图片样本库

自定义图库

文本审核1.0版

文本色情识别

识别文本中的色情和低俗内容

文本同步检测

文本涉政识别

识别文本内容中的涉政风险,包括人物、事件等

-

文本暴恐识别

识别文本中的暴恐内容

-

文本广告识别

识别文本内容中的垃圾广告

-

文本辱骂识别

识别文本中的辱骂内容

-

文本违禁内容识别

识别文本中的违禁内容,包括违禁品、非法交易等

-

文本不良内容识别

识别文本中的不良内容,包括拜金炫富、负面诱导、网络暴力等

-

用户自定义关键词库

支持用户自定义的黑白关键词样本库

自定义文本库

语音审核1.0版

语音辱骂识别

识别语音中的辱骂内容

-

语音不良内容识别

识别语音中的不良内容,包括拜金炫富、负面诱导、网络暴力等

-