腾讯云即时通信 IM 从用户产品体验及业务安全出发,面向内容安全场景推出 AI 内容理解及审核功能方案,助你便捷高效地处理内容安全方面的顾虑。
一、简介
AI 内容理解及审核功能,是一款在云端(服务端)进行内容智能识别和拦截的服务:
·支持对文本、图片内容同步审核,对音频、视频内容异步审核。
·支持分别针对单聊、群聊、资料三大 IM 场景中产生的不同类型 UGC 内容进行策略配置。
·支持配置特定终端用户产生/接收的消息不送审,支持对返回审核结果进行配置。
·支持自助创建自定义审核场景,对非 IM 场景的 UGC 内容或者终端消息有更灵活的送审选择。
·支持查看审核用量抵扣明细、审核结果明细,提供审核条数统计、审核类型统计、审核用户统计、违规用户排行等可视化数据。
二、接入便捷,延迟更低
无需额外开发,一键开启 AI 内容理解及审核功能即可,将开发周期从1天缩短至1分钟。
并且,由即时通信 IM 直接提供审核服务的方式,避免了消息在外网传输,既保障了信息安全,又将消息发送时延从 200ms 有效降至 50ms 。
云端审核流程示意图
三、场景丰富,策略灵活
将1个通用场景细化、扩展至“6+N”个细分业务场景,除了支持单聊、群聊、用户资料、群资料、群成员资料、关系链这六大场景外,还支持新增 N 个自定义审核场景,不同场景下可配置不同审核策略,充分满足你的个性化需求。
四、支持音视图文,维度丰富
支持文本、图像、语音、视频等多维度内容识别分析,即使是融合了多种类型消息的自定义消息也支持按照指定字段、预设字段拆分送审,可帮助你轻松应对各种业务需求。其中,文本、图片支持同步审核,音视频内容可异步审核。
五、统计可视化,便于运营
支持查看审核用量抵扣明细、审核结果明细,提供审核条数统计、审核类型统计、审核用户统计、违规用户排行等可视化数据,助你无忧跟进整个审核链路数据,为你的业务运营提供便捷。
六、效果展示
即时通信 IM 的含 UI 集成方案为被拦截的消息设计了专属样式,你可集成终端 TUIKit 7.6.5011及以上、Web & 小程序 & uni-app (vue) TUIKit 2.0.0及以上的版本使用。下图分别展示了在移动端和 Web 端识别到非正常消息并阻止发送的表现:(也可通过 体验 Demo 直接感受效果)
七、接入指引
1. 快速开通
2. 配置审核场景和策略
3. 配置审核结果
4. 查看用量与明细统计
5. 常见问题