对象存储 内容审核问题

这篇汇总数据万象内容审核的常见问题,涵盖审核分值区间(确定/不确定)、视频审核任务提交与限制、审核策略配置、违规处理及回调等操作要点。 审核策略:支持默认与自定义,按需选择审核分类并获取Biztype值。 违规处理:建议冻结或删除违规文件,并至少开启黄暴政审核场景。 图片限制:支持32MB以下、分辨率建议大于256×256的常见格式。

相关产品
对象存储 产品页,含版本规格、价格与购买入口。

一、审核确定部分与不确定部分如何区分?

数据万象审核为打分制,对于每一张图片均有一个0 – 100的分值。

·确定部分指确定是敏感图片和确定正常的图片,分值在[0,60]和(90,100]区间,我们认为图片置信度比较明确,无需用户人为干预。

·不确定部分指疑似敏感图片,系统无法明确区分是否为敏感内容,分值在(60,90]区间,建议用户根据自身业务对审核强度的需求来指定分数阈值。

二、如何提交视频审核任务?

数据万象可通过 CreateVideoAuditingJob 接口 提交一个视频审核任务。视频审核功能为异步任务方式,你可以通过提交视频审核任务审核你的视频文件,然后通过 查询视频审核任务接口 或 视频审核回调 查询审核结果。

三、视频审核能否解压带密钥的 zip 文件?

数据万象视频审核不支持解压带密钥的 zip 文件。

四、使用了内容审核功能,为什么还会收到违规邮件?

如果你已使用内容审核功能,通常有以下几种情况仍然接收到违规邮件:

1. 你配置的审核策略覆盖不全,例如仅审核涉黄场景,但政治敏感、暴力血腥等场景也属于违法违规场景。建议你至少开启黄暴政三种审核场景,全面整顿违法违规内容。

2. 对于审核出来的违规文件,你没有及时处理,建议你在接收到审核结果时,对违规的文件立即进行删除或者更改权限为私有读的处理。如果你使用的是自动审核功能,建议你开启自动冻结。

3. 如果你的违规数据较多,场景较复杂,使用默认的模型可能会存在少量的识别不准确的情况,你可以提交工单反馈给我们进行模型调整,使审核结果更准确。

五、图片审核仅回调违规图片是指分数在什么区间范围的?

数据万象图片审核仅回调违规图片系统默认是指分数在90分以上。你也可以自定义回调阈值,如图:

六、数据万象如何设置审核策略?

一、默认策略(预设)

每种文件类型都拥有一个默认的审核策略,默认审核策略是腾讯云根据你的历史审核情况默认配置的,若你没有使用过审核服务,则默认策略为算法专家经过多行业模型沉淀的策略配置,适用于大部分的内容安全需求。

注意:说明:

注意:默认策略允许查看、编辑,不允许删除。

二、自定义策略

如果默认策略无法满足你的业务或你有多种场景需要搭配不同的审核策略,则可以创建自定义审核策略。

1. 登录 数据万象控制台 ,在存储桶管理页面选择并单击需操作的存储桶名称,进入存储桶管理页面。

2. 在左侧导航栏中,选择内容审核 > 审核策略,进入审核策略页面。

3. 根据你的需求选择创建对应的审核策略,目前支持创建图片审核策略、视频审核策略、音频审核策略、文本审核策略、文档审核策略、网页审核策略、直播审核策略。以图片审核策略为例:

·单击创建图片审核策略,填写策略名称。

·在审核分类下选择你需要审核的类别,其中色情- OCR 色情文本审核表示对图片内容进行 OCR 识别审核。

·单击保存,即可完成策略创建。

4. 审核策略创建好后,后台会自动生成一个唯一的 Biztype 值。

5. 对于已创建好的审核策略,你可以进行查看或编辑,编辑时不允许修改策略名称和 Biztype 值。

三、使用审核策略

审核策略创建完毕后,在配置 自动审核 或 历史数据审核任务、调用 内容审核 API 接口 时,你需要选择对应的策略,即可在审核时按自定义的分类进行审核。

七、数据万象内容审核是否支持自定义违禁内容?

如果现有的审核策略场景均无法匹配你的内容,你可以将图片添加至自定义风险库,详情请查看自定义风险库。

八、数据万象支持审核哪些数据?

·支持审核腾讯云 COS 上的文件。

·支持审核第三方云存储厂商的文件 URL。

·支持审核本地图片文件,需要先进行 base64编码。审核本地图片文件请调用 图片批量审核接口。

九、数据万象图片审核有哪些限制?

·图片文件大小支持:支持审核32MB以下的图片。对于大小超过5MB的图片,你需要在调用请求时,使用 large-image-detect 参数。

·图片文件分辨率支持:最小支持分辨率为20×20,建议分辨率大于256×256,否则可能会影响识别效果。

·图片文件支持格式:JPG/JPEG、PNG、GIF、BMP、WebP、HEIF/HEIC 格式图片。

·图片文件链接支持的传输协议:HTTP、HTTPS。

十、数据万象图片审核请求是同步还是异步的?

图片审核支持同步、异步两种请求方式,你可以按需调用。

十一、数据万象图片审核出违规的图片如何处理?

针对违规的图片,如果你的图片存储在腾讯云上,我们建议你进行冻结或删除处理,冻结是指将图片的访问权限更改为私有读方式。

十二、内容审核回调 URL 怎么配置?

配置了审核回调地址后,在审核结束后,后台会将审核结果以 json 形式回调至你的回调地址。你可以通过回调内容,进行后续的文件处理操作。如果你不清楚如何搭建一个接收回调数据的服务,可以参考 如何快速部署一个接收回调数据的服务器。

十三、内容审核可以直接审核文字吗?

可以调用文本审核 API 直接审核文本内容。

十四、数据万象内容审核必须将文件类型设置为公有读写吗?

目前内容审核不限制是否必须将文件类型设置为公有读写,私有读写也是可以进行内容识别的。

赞 (0)
上一篇 5天前
下一篇 5天前