即时通信 IM 配置场景和策略

一、音视图文消息检测

按照业务所需，勾选/取消勾选 对应场景下的文本、图片、音频、视频类型内容即可。

注意：单聊、群聊场景下，将音频/视频异步审核开启后，所有音频/视频都将正常送审并计费，对存储在腾讯云即时通信 IM 的文件会进行拦截。如有自定义存储的音频/视频内容，请谨慎开启！如需审核自定义存储的音频/视频内容，请通过监听音频/视频消息审核终端违规回调的方式，进行 UI 处理。

二、自定义消息检测

开启 AI 内容理解及审核后，单聊、群聊的自定义消息默认当作文本送审。如果自定义消息结构为 json，只希望送审自定义消息的部分内容，可以参见如下方式：

三、方式一：按预设字段过滤送审

{ "To_Account":"lumotuwe5", "MsgRandom":121212, "MsgBody":[ { "MsgType":"TIMCustomElem", "MsgContent":{ "Data":"{\\"key1\\":\\"value1\\",\\"message\\":\\"hello\\",\\"IMAuditContentType\\":\\"Text\\",\\"IMAuditContent\\":\\"hello\\"}", "Desc":"hello", "Ext":"www.qq.com", "Sound":"dingdong.aiff" } } ]}

参数说明：

注意：说明：

注意：指定的字段，需要放置在自定义消息 json 结构体的第一层 kv 元素里面。该方式支持音视图文等消息的审核，当送审的内容为音视频的文件，违规的消息处置请参见 终端违规回调。如果一条自定义消息，有多个元素需要同时送审，支持按如下配置提取相应内容送审，最多支持10个元素审核：

注意：{"IMAuditContents":[{"IMAuditContentType":"Text","IMAuditContent":"aaaa"},{"IMAuditContentType":"Image","IMAuditContent":"https://example.qq.com/1.jpg"}]}

四、方式二：按固定字段送审

每种自定义消息 json 结构体按照（单）多阶 key 值使用 . 拼接（string.string）的格式填写（最多两阶），支持多种 json 结构体按 | 拼（string|string.string）填写（最多三种）。其中 string 字符串不超过 60 个字符。

填写固定字段 data.content|content，其中 data.content 配置针对以下两种自定义消息 json 结构体过滤：

`[{"data":{"content": "123"},"avatar":"http://xxxxx"},{"data":"{\\"content\\":\\"123\\"}","avatar":"http://xxxxx"}]`{"data":"{\\"content\\":\\"123\\"}","avatar":"http://xxxxx"}

注意：自定义消息多为 json 结构，如果不做解析，json 结构内容会影响审核识别效果，降低准确率。如果要审核自定义消息，务必配置好相应审核字段。

五、配置通用场景策略

每个场景及内容类型均已配置默认审核策略，默认识别并拦截包含高风险敏感事件/人物、高风险色情/辱骂/暴恐/违禁等内容，如果你需要更严格/更宽松的审核策略，或者你需要增加中、低风险内容审核策略，请按照下方指引操作。

如果需要编辑审核策略，请单击对应场景及内容类型右侧的编辑策略。

·文本/图片策略配置：可以修改通用识别策略配置与自定义库信息。

·通用识别策略配置：勾选需要识别的风险类型。

·自定义库信息：勾选需要关联的自定义词库（最多可支持设置5个自定义词库）。

·音频策略配置：可以修改通用识别策略配置、截帧策略配置与自定义库信息。

·通用识别策略配置：勾选需要识别的风险类型。

·截帧策略配置：音频切片时长配置，支持滑动设定或填写整数，范围[1,60]。

·自定义库信息：勾选需要关联的自定义词库（最多可支持设置5个自定义词库）。

·视频策略配置：可以修改通用识别策略配置、截帧策略配置与自定义库信息。

·通用识别策略配置：勾选需要识别的风险类型，包括对图片和音频的识别。

·截帧策略配置：审核内容配置，支持仅审核视频画面、仅审核音频和全部审核；图片截帧间隔，支持滑动设定或填写整数，范围[1,60]；音频切片时长配置，支持滑动设定或填写整数，范围[1,60]。

·自定义库信息：勾选需要关联的自定义词库（最多可支持设置5个自定义词库）。

·复制策略：图文音视的编辑策略时，单击复制策略，可以将本策略复制到下拉选择的其他场景。

六、配置上下文合并送审

上下文合并送审主要用于在单聊或者群聊中，由于黑产为了规避检测风险，通常将一段违规文本拆分成多个消息进行发送，通过上下文合并送审功能，可以有效打击黑产电话、手机号码引流等情况。

开通 AI 内容理解及审核服务后，如果需要聊天文本内容上下文合并送审，请单击修改场景配置。

在弹窗中勾选/取消勾选对应场景的上下文合并开关，单击保存即可。

七、自定义审核场景及配置

自定义审核配置，可用于主动审核和终端消息自定义送审。该配置在 AI 内容理解及审核控制台，自定义审核配置模块中操作：

单击添加，输入审核名称，勾选启用策略，单击确定，即可完成一个自定义配置的创建操作。

创建完成后，可在列表中，看到新创建的配置信息。单击复制图标，获取配置 ID：

当终端发送的消息需要指定自定义审核策略时，请通过创建自定义审核配置来获取配置 ID，在终端发消息接口中赋值；当针对不属于单聊、群聊、资料的场景（例如评论、动态、资讯等）进行音视图文内容审核时，可调用 主动审核 REST API 接口，接口使用的审核策略，请通过创建自定义审核配置来获取配置 ID 给 AuditName 赋值。

八、关联自定义库配置

关联自定义库允许用户在不同场景的不同策略下，关联自定义词库对特定词汇进行个性化的拦截。

九、实现步骤

1. 选择想要配置场景下的审核策略，点击编辑策略。

2. 点击编辑。

3. 在关联自定义库部分可以选择创建词库或对已有词库进行编辑、管理或删除。

4. 创建词库。点击创建词库，可以设置词库名称、处理建议和匹配模式。

5. 管理词库。对已有词库点击管理，可以添加关键词。

注意：警告：

注意：配置识别类型为正常的词，表现为放过。如果需要拦截，识别类型请配置成非正常类型，例如：违法等。

6. 添加关键词。可以分别通过输入上传和文件上传的方式添加关键词，其中文件上传仅支持 .txt 格式文件，大小 2M 以内，请用回车分隔自定义词。关键词类型可选普通词、英文、组合词，选择需要将其识别的目标类型后，添加自定义词，可以选择对关键词添加备注。

十、场景说明

以需要在单聊审核配置下，对文本审核需要自定义拦截“冰毒”词汇为例，点击编辑策略后，选择编辑，选择创建词库或者对已有词库进行管理，设置为精确匹配，选择识别类型为“违法”，关键词类型为“普通词”，在自定义词中添加“冰毒”，点击确定后保存配置，即可完成。