选择审核配置 tab,并下拉至最后,可看到审核结果配置模块。
一、返回审核结果配置
审核结果可以通过配置基础回调的方式,将结果转发给 App 后台。具体操作如下:
返回审核结果开关 默认关闭,如果需要打开,单击审核结果配置模块右上角的编辑,打开返回审核结果开关,单击确定。
审核结果将使用后回调发送至你在基础配置中配置的 URL 地址,如果你在开启返回审核结果开关前未配置基础回调 URL,请在打开开关时弹出的弹窗中填写基础回调 URL,详情请参见 基础回调配置。
开关开启后,内容回调的结果将通过基础回调抄送到 App 后台,支持拦截、所有结果的配置选项。
注意:App 后台在收到回调请求之后,务必校验请求 URL 中的参数 SdkAppid 是否是自己的 SDKAppID。
二、请求 URL 示例
以下示例中 App 配置的回调 URL 为 https://www.example.com 。
示例:
https://www.example.com?SdkAppid=$SDKAppID&CallbackCommand=$CallbackCommand&contenttype=json
三、请求参数说明
| 参数 | 说明 |
| https | 请求协议为 HTTPS,请求方式为 POST。 |
| www.example.com | 回调 URL。 |
| SdkAppid | 创建应用时在即时通信 IM 控制台分配的 SDKAppID。 |
| CallbackCommand | 固定为:ContentCallback.ResultNotify。 |
| contenttype | 请求包体固定为 json。 |
四、请求包示例
{ "Scene":"C2C", "SdkAppId":1400187352, "From_Account":"jared", "ContactItem":{ "ContactType":1, "To_Account":"Jonh" }, "ContentType":"Text", "TextContent":[ "aaabbbccc", "1234567" ], "MsgID":"1434460578_4137340972_1661154487", "CtxcbResult":1, "CtxcbRequestId":"241ed925-4c56-4357-95dd-1e6e7798f214"}
五、请求包字段说明
| 字段 | 类型 | 说明 |
| Scene | String | 送审场景:单聊 = C2C。单聊自定义消息 = C2CCustom。群聊 = Group。群聊自定义消息 = GroupCustom。群资料 = GroupInfo。群成员资料 = GroupMemberInfo。关系链 = RelationChain。用户资料 = UserInfo。 |
| SdkAppId | String | 创建应用时在即时通信 IM 控制台分配的 SDKAppID。 |
| From_Account | String | 送审内容的发起者 UserID。 |
| ContactItem | Object | 消息送审时,表示消息接收对象。 |
| ContactType | Integer | 消息送审时,区分接收对象为群组或单聊。ContactType = 1表示单聊。ContactType = 2表示群聊。 |
| To_Account | String | ContactType = 1时,表示消息接收方 UserID。 |
| ToGroupId | String | ContactType = 2时,表示消息接收方 GroupID。 |
| ContentType | String | 表示送审的内容类型:文本 = Text。图片 = Image。音频 = Audio。视频 = Video |
| TextContent | Array<String> | 当 ContentType 为 Text 时,表示送审的文本内容。 |
| FileURL | String | 当 ContentType 为 Image/Audio/Video 时,表示送审的文件 URL。 |
| MsgID | String | 单聊送审,MsgID 为单聊消息 MsgKey;群聊送审,MsgID 为群聊消息 MsgSeq。 |
| CtxcbResult | Integer | 第三方内容安全服务审核结果:1:表示拦截0:表示放过 |
| CtxcbRequestId | String | 第三方内容安全服务审核标识。 |
| CtxcbKeywords | Array | 文本命中的敏感词。 |
| CtxcbSuggestion | String | 第三方内容安全服务审核建议:Block/Review/Pass。 |
| CtxcbLabel | String | 审核命中的违规分类的一级标签: Illegal(违法) / Abuse(谩骂) / Polity(涉政) / Ad(广告) / Porn(色情) / Sexy(性感) / Terror(暴恐) / Composite(综合)。 |
| IsRestAPI | Bool | 是否为主动审核触发的回调:false 表示内部送审触发;true 表示主动审核接口触发,一般为主动审核音视频结果回调。 |
六、应答包示例
{ "ActionStatus": "OK", "ErrorInfo": "", "ErrorCode": 0}
七、应答包字段说明
| 字段 | 类型 | 属性 | 说明 |
| ActionStatus | String | 必填 | 请求处理的结果:OK:表示处理成功。FAIL:表示失败。 |
| ErrorCode | Integer | 必填 | 错误码:0:表示 App 后台处理成功。1:表示 App 后台处理失败。 |
| ErrorInfo | String | 必填 | 错误码。 |
八、拦截策略设置
默认仅拦截被识别为“违规”的内容,如果你需要“拦截疑似和违规”,或者设置均不拦截,请单击编辑进行操作。单击确认,2分钟后生效。
注意:拦截策略与送审策略互不影响。
九、下发拦截错误码
针对图文同步审核,默认下发拦截错误码,即消息发送方会收到消息被拦截的错误码提示。
如果需要发送方对被消息拦截无感知,即发送方不需要收到消息下发失败的提示,可通过关闭“下发拦截错误码”开关实现。具体操作如下:
单击审核结果配置模块右上角的编辑,关闭“下发拦截错误码”开关,单击确定。
注意:为方便你回溯消息未成功发送的原因,你需要在关闭“下发拦截错误码”开关前,开启“返回审核结果”开关,接收审核结果。开启“返回审核结果”开关步骤详情请参见 返回审核结果。
十、违规字替换策略
用于配置消息内容中识别到的违规字是否做替换,仅拦截时生效,生效后会对消息内容中的违规字进行替换。
| 违规情况 | 替换方案 | 举例 |
| 关键词拦截 | 将关键词替换为 xx | 原文“可以参与赌博吗”,当“赌博”二字为关键词,则替换后为“可以参与 xx 吗” |
| 模型拦截 | 发送的文本完全替换为 “ ***该消息涉嫌违规,不予展示*** ” | 原文“加@微#*信 详聊”,当模型拦截后,替换为“***该消息涉嫌违规,不予展示***” |
开启方式如下: