即时通信 IM 配置审核结果

这篇说说即时通信IM的审核结果配置,包括开启返回审核结果开关、设置拦截策略、下发拦截错误码及违规字替换策略,并说明审核结果回调的接口参数与请求应答格式。 返回审核结果:默认关闭,开启后审核结果经基础回调转发至App后台,支持拦截与所有结果选项。 拦截策略与错误码:默认仅拦截违规内容,可调整策略;默认下发拦截错误码,可关闭使发送方无感知。 违规字替换:拦截时可将关键词替换为xx,模型拦截则整条文本替换为提示语。

相关产品
即时通信 IM 产品页,含版本规格、价格与购买入口。

选择审核配置 tab,并下拉至最后,可看到审核结果配置模块。

一、返回审核结果配置

审核结果可以通过配置基础回调的方式,将结果转发给 App 后台。具体操作如下:
返回审核结果开关 默认关闭,如果需要打开,单击审核结果配置模块右上角的编辑,打开返回审核结果开关,单击确定。

审核结果将使用后回调发送至你在基础配置中配置的 URL 地址,如果你在开启返回审核结果开关前未配置基础回调 URL,请在打开开关时弹出的弹窗中填写基础回调 URL,详情请参见 基础回调配置。

开关开启后,内容回调的结果将通过基础回调抄送到 App 后台,支持拦截、所有结果的配置选项。

注意:App 后台在收到回调请求之后,务必校验请求 URL 中的参数 SdkAppid 是否是自己的 SDKAppID。

二、请求 URL 示例

以下示例中 App 配置的回调 URL 为 https://www.example.com 。
示例:

https://www.example.com?SdkAppid=$SDKAppID&CallbackCommand=$CallbackCommand&contenttype=json

三、请求参数说明

参数 说明
https 请求协议为 HTTPS,请求方式为 POST。
www.example.com 回调 URL。
SdkAppid 创建应用时在即时通信 IM 控制台分配的 SDKAppID。
CallbackCommand 固定为:ContentCallback.ResultNotify。
contenttype 请求包体固定为 json。

四、请求包示例

{ "Scene":"C2C", "SdkAppId":1400187352, "From_Account":"jared", "ContactItem":{ "ContactType":1, "To_Account":"Jonh" }, "ContentType":"Text", "TextContent":[ "aaabbbccc", "1234567" ], "MsgID":"1434460578_4137340972_1661154487", "CtxcbResult":1, "CtxcbRequestId":"241ed925-4c56-4357-95dd-1e6e7798f214"}

五、请求包字段说明

字段 类型 说明
Scene String 送审场景:单聊 = C2C。单聊自定义消息 = C2CCustom。群聊 = Group。群聊自定义消息 = GroupCustom。群资料 = GroupInfo。群成员资料 = GroupMemberInfo。关系链 = RelationChain。用户资料 = UserInfo。
SdkAppId String 创建应用时在即时通信 IM 控制台分配的 SDKAppID。
From_Account String 送审内容的发起者 UserID。
ContactItem Object 消息送审时,表示消息接收对象。
ContactType Integer 消息送审时,区分接收对象为群组或单聊。ContactType = 1表示单聊。ContactType = 2表示群聊。
To_Account String ContactType = 1时,表示消息接收方 UserID。
ToGroupId String ContactType = 2时,表示消息接收方 GroupID。
ContentType String 表示送审的内容类型:文本 = Text。图片 = Image。音频 = Audio。视频 = Video
TextContent Array<String> 当 ContentType 为 Text 时,表示送审的文本内容。
FileURL String 当 ContentType 为 Image/Audio/Video 时,表示送审的文件 URL。
MsgID String 单聊送审,MsgID 为单聊消息 MsgKey;群聊送审,MsgID 为群聊消息 MsgSeq。
CtxcbResult Integer 第三方内容安全服务审核结果:1:表示拦截0:表示放过
CtxcbRequestId String 第三方内容安全服务审核标识。
CtxcbKeywords Array 文本命中的敏感词。
CtxcbSuggestion String 第三方内容安全服务审核建议:Block/Review/Pass。
CtxcbLabel String 审核命中的违规分类的一级标签: Illegal(违法) / Abuse(谩骂) / Polity(涉政) / Ad(广告) / Porn(色情) / Sexy(性感) / Terror(暴恐) / Composite(综合)。
IsRestAPI Bool 是否为主动审核触发的回调:false 表示内部送审触发;true 表示主动审核接口触发,一般为主动审核音视频结果回调。

六、应答包示例

{ "ActionStatus": "OK", "ErrorInfo": "", "ErrorCode": 0}

七、应答包字段说明

字段 类型 属性 说明
ActionStatus String 必填 请求处理的结果:OK:表示处理成功。FAIL:表示失败。
ErrorCode Integer 必填 错误码:0:表示 App 后台处理成功。1:表示 App 后台处理失败。
ErrorInfo String 必填 错误码。

八、拦截策略设置

默认仅拦截被识别为“违规”的内容,如果你需要“拦截疑似和违规”,或者设置均不拦截,请单击编辑进行操作。单击确认,2分钟后生效。

注意:拦截策略与送审策略互不影响。

九、下发拦截错误码

针对图文同步审核,默认下发拦截错误码,即消息发送方会收到消息被拦截的错误码提示。
如果需要发送方对被消息拦截无感知,即发送方不需要收到消息下发失败的提示,可通过关闭“下发拦截错误码”开关实现。具体操作如下:
单击审核结果配置模块右上角的编辑,关闭“下发拦截错误码”开关,单击确定。

注意:为方便你回溯消息未成功发送的原因,你需要在关闭“下发拦截错误码”开关前,开启“返回审核结果”开关,接收审核结果。开启“返回审核结果”开关步骤详情请参见 返回审核结果。

十、违规字替换策略

用于配置消息内容中识别到的违规字是否做替换,仅拦截时生效,生效后会对消息内容中的违规字进行替换。

违规情况 替换方案 举例
关键词拦截 将关键词替换为 xx 原文“可以参与赌博吗”,当“赌博”二字为关键词,则替换后为“可以参与 xx 吗”
模型拦截 发送的文本完全替换为 “ ***该消息涉嫌违规,不予展示*** ” 原文“加@微#*信 详聊”,当模型拦截后,替换为“***该消息涉嫌违规,不予展示***”

开启方式如下:

赞 (0)
上一篇 4天前
下一篇 4天前