即时通信 IM AI内容理解及审核(无 UI 集成)

随着人们日常生活中社交、生产、娱乐等众多活动逐步向线上倾斜,线上会议、娱乐直播、社交沟通、游戏互动等场景产生的内容量大幅增加。尤其是聊天信息、视频弹幕、社区评论等即时通信消息,几乎无间断地在网络上大量生成并传播,其中难免会夹杂着一些涉黄涉暴的负面消息。如果平台不能有效地识别并过滤这些不良内容,不仅会严重污染网络氛围,也很可能会因此承担不必要的风险和损失。

相关产品
即时通信 IM 产品页,含版本规格、价格与购买入口。

腾讯云即时通信 IM 从用户产品体验及业务安全出发,面向内容安全场景推出 AI 内容理解及审核功能方案,助你便捷高效地处理内容安全方面的顾虑。

一、简介

AI 内容理解及审核,是一款在云端(服务端)进行内容智能识别和拦截的服务:

·支持对文本、图片内容同步审核,对音频、视频内容异步审核。

·支持分别针对单聊、群聊、资料三大 IM 场景中产生的不同类型 UGC 内容进行策略配置。

·支持配置特定终端用户产生/接收的消息不送审,支持对返回审核结果进行配置。

·支持自助创建自定义审核场景,对非 IM 场景的 UGC 内容或者终端消息有更灵活的送审选择。

·支持查看审核用量抵扣明细、审核结果明细,提供审核条数统计、审核类型统计、审核用户统计、违规用户排行等可视化数据。

二、接入便捷,延迟更低

无需额外开发,一键开启 AI 内容理解及审核即可,将开发周期从1天缩短至1分钟。

并且,由即时通信 IM 直接提供审核服务的方式,避免了消息在外网传输,既保障了信息安全,又将消息发送时延从 200ms 有效降至 50ms 。

三、场景丰富,策略灵活

将1个通用场景细化、扩展至“6+N”个细分业务场景,除了支持单聊、群聊、用户资料、群资料、群成员资料、关系链这六大场景外,还支持新增 N 个自定义审核场景,不同场景下可配置不同审核策略,充分满足你的个性化需求。

四、支持音视图文,维度丰富

支持文本、图像、语音、视频等多维度内容识别分析,即使是融合了多种类型消息的自定义消息也支持按照指定字段、预设字段拆分送审,可帮助你轻松应对各种业务需求。其中,文本、图片支持同步审核,音视频内容可异步审核。操作路径:AI 内容理解及审核 > 审核配置。

五、统计可视化,便于运营

支持查看审核用量抵扣明细、审核结果明细,提供审核条数统计、审核类型统计、审核用户统计、违规用户排行等可视化数据,助你无忧跟进整个审核链路数据,为你的业务运营提供便捷。操作路径:AI 内容理解及审核 > 审核统计。

六、效果展示

即时通信 IM 的含 UI 集成方案为被拦截的消息设计了专属样式,你可集成终端 TUIKit 7.6.5011及以上、Web & 小程序 & uni-app (vue) TUIKit 2.0.0及以上的版本使用,可参见 开发指引。下图分别展示了在 移动端 和 Web 端识别到非正常消息并阻止发送的表现:(也可通过体验 Demo 直接感受效果)

七、接入指引

1. 快速开通

2. 配置审核场景和策略

3. 配置审核结果

4. 查看用量与明细统计

5. 常见问题

赞 (0)
上一篇 4天前
下一篇 4天前