内容安全平台 关键词功能

关键词名单用于在平台预置标签之外,按业务需要自行管控特定词汇。添加关键词后,送审内容中如包含该词,即按名单配置命中对应标签。

相关产品
内容安全平台 产品页,含版本规格、价格与购买入口。

一、名单类型

关键词名单分为“预设名单”与“自定义名单”两类,两者的区别在生效范围:

·预设名单:预设名单中的关键词对当前账号下的全部策略生效,无需关联操作。适用于需要在所有业务场景统一管控的关键词。

·自定义名单:在自定义名单中添加关键词后,仅对关联了该名单的策略生效。适用于只在特定业务场景管控的关键词。

二、操作方式

登录内容安全控制台,进入 关键词名单 管理页面。页面包含"预设名单"与"自定义名单"两个页签。

三、预设名单

预设名单下的词库由系统预置,分类已默认创建完成,不支持新增或删除词库。添加关键词后对当前账号下所有策略生效,无需关联。示例如下:

注意:预设名单绑定在账号下,按子账号(SubUin)隔离。在当前子账号的预设名单中添加关键词后,仅该子账号发起的请求会命中,不会跨子账号生效。

四、自定义名单

自定义名单默认为空,使用前需先新建词库:切换到"自定义名单"页签,单击新建词库,完成后在词库中添加关键词。

自定义名单新建完成后不会自动生效,需在 应用管理 页面的策略配置中,将词库关联至目标策略后才会生效。示例如下:

五、命中返回

关键词命中与模型命中的返回结构不同,差异在于标签层级:

·关键词命中:预设名单或自定义名单中添加的关键词被命中时,接口仅返回一级标签(Label),不返回二级标签(SubLabel)。

·模型命中:由模型识别命中的内容,接口返回一级标签(Label)及其下的二级标签(SubLabel)。

两种命中情况如上图所示:

·示例一:将"胡麻子"添加至谩骂标签下,该词被命中后,返回的机审标签为谩骂,无二级标签。

·示例二:某段文本被模型命中,返回谩骂 – 人身攻击,即一级标签为谩骂、二级标签为人身攻击。

注意:说明:关键词添加后通常即刻生效,最长不超过 5 分钟。

赞 (0)
上一篇 4天前
下一篇 4天前