内容安全平台 相册图片内容审核

对于图片内容,在 开通图片内容安全服务 后,可直接调用图片内容检测(ImageModeration)接口,对图片相册(如 QQ 空间相册等)内容进行批量识别。

相关产品
内容安全平台 产品页,含版本规格、价格与购买入口。

注意:说明:

一、步骤一:配置任务策略(可选)

建议你使用配置任务策略,可根据业务需求配置识别策略,用于个性化服务体验。

注意:说明:

二、前提条件

·已获取腾讯云主账号或子账号。

·登录账号已拥有图片内容安全服务的读写权限。

·登录账号已开通图片内容安全服务。

三、操作步骤

1. 登录 内容安全控制台,在概览页单击应用管理 > 新增应用,新增需要配置图片内容安全管理的应用。

2. 在应用管理页面,单击新增应用,输入应用名称,单击保存完成应用创建。

3. 在应用管理页面,选择刚创建的应用,单击场景管理。

4. 在场景管理页面,单击新建场景,输入场景名称、选择行业分类、选择图片内容安全,单击保存即可完成场景创建。

参数名称 描述
场景名称 场景的文字描述,可使用中文、英文、数字及下划线组合,长度不超过20个字符
行业分类 策略涉及的行业场景分类
关联审核服务 选择场景需要关联的审核服务

5. 场景创建完成,开始配置场景策略,单击配置 > 图片内容安全。

6. 在策略详情页面会显示当前系统默认策略,如需更改,单击编辑,即可修改当前策略。

参数名称 描述
识别策略配置 根据业务需求,选择是否需要识别不同类型的识别内容。
关联自定义库 选择是否需要使用自定义词库用于内容识别,如暂无自定义库,可跳过,或保存当前策略后前往 步骤二:配置自定义词库。

7. 完成后单击确认,完成策略配置。

四、步骤二:配置自定义词库(可选)

自定义词库用于添加个性化的识别词库,识别图片上是否含有违规文本。

注意:如无需配置自定义词库,可略过此步骤。

五、前提条件

·已获取腾讯云主账号或子账号。

·登录账号已拥有图片内容安全服务的读写权限。

·登录账号已开通图片内容安全服务。

六、操作步骤

1. 登录 内容安全控制台,在左侧导航栏中,选择名单管理> 关键词名单 > 自定义名单。

2. 在自定义名单页面,单击新建词库,填写文本库名称及按业务需求添加关键词。

参数名称 描述
词库名称 词库的文字描述,可使用中文、英文、数字及下划线组合,长度不超过32个字符
处理建议 可选择违规、疑似、放过:违规:确认为不良信息疑似:可能为不良信息,需要人工识别放过:业务方认为的正常信息
匹配模式 可选择精确匹配或模糊匹配:精确匹配:对输入文本进行匹配,匹配对象需完全一致模糊匹配:可检测变体后的输入词,支持拆分字、形似字、音似字、简繁体、大小写、大写数字等形式的相似词进行匹配

3. 单击保存,即可创建自定义词库。

4. 在自定义词库页面下方的列表中,将显示刚创建的词库。在创建词库弹窗,填写自定义库的相关信息,结合业务需求配置自定义库。

注意:自定义词库的不同颜色代表不同的屏蔽逻辑,红色代表违规,橙色代表疑似,绿色代表正常。

5. 在词库编辑页面,单击添加关键词,选择处理建议,输入关键词,单击确定,即可保存关键词至当前词库。

参数名称 描述
处理建议 识别模型对应的违规类型
关键词 每个关键词以换行来确定,单个关键词长度为20个汉字以内支持以复制粘贴的方式批量导入,单次最多添加关键词2000个,词与词之间用换行符分隔关键词添加个数上限为10000个如需添加组合词,选择关键词类型:组合词,使用&符号对两个或者多个词进行连接,添加格式为“关键词1&关键词2…”,其中关键词只支持纯中文,这些关键词同时出现时则会命中

注意:说明:

注意:自定义词库配置完成后,可以在 步骤一:配置任务策略 时将自定义词库与策略关联使用。

七、步骤三:创建任务及获取识别结果

在完成以上步骤后,可以调用图片内容检测(ImageModeration)接口创建图片相册识别任务,具体方法如下:

·确保图片符合接口传入的 文件格式要求。

·参考接口的 接口文档说明,填入相应的输入参数。

·若任务创建成功,接口会返回详细识别结果,请参考 图片内容识别示例 进一步了解返回参数示例;若任务创建失败,接口会返回错误码,请参考 业务错误码 和 公共错误码 进行问题排查。

注意:在进行服务接入时,可以使用 API Explorer 工具进行在线调试。

八、相关文档

·对音频流内容(如游戏直播、在线电台、语音聊天等)进行识别的实践教程,请参见 直播音频内容审核。

·对视频流内容(如直播间、视频会议等)进行批量识别的实践教程,请参见 直播流内容审核。

·对论坛评论区内容(如购物网站评论、社区回帖、视频评论区等)进行识别的实践教程,请参见 论坛评论区内容识别。

赞 (0)
上一篇 4天前
下一篇 4天前