内容安全平台 审核 Agent(快速入门)

腾讯云天御审核 Agent 服务,基于大模型能力,按客户自定义的业务规则审核文本、图片、视频内容。本服务的审核规则不受平台预置标签限制;检测结果(标签体系、判定结论、结果结构)可按客户业务要求输出。

相关产品
内容安全平台 产品页,含版本规格、价格与购买入口。

一、快速选型

审核 Agent 服务提供两种接口类型:

·图文审核 Agent:输入图片与文本,二者至少传入一种;若你的业务内容仅含图文,建议使用该接口类型,接入参数更简单。

·视频审核 Agent:输入视频、图片与文本,三者至少传入一种;若你的业务含视频,则选用该接口类型。

注意:说明:两种服务底层技术一致,仅支持输入的内容类型不同,按业务内容类型选择即可。

注意:你通过本服务提交的数据可能会传输至我们或第三方的大模型进行内容理解、推理与结果生成等处理,如你提交的数据涉及个人信息等敏感数据,请你确保已就我们与第三方大模型在本服务下的数据处理活动依法取得必要授权同意。相关条款可详见 内容安全平台服务条款。

二、接入步骤

审核 Agent 的策略当前暂不支持自助配置策略,使用前需先联系商务同学,评估该服务是否匹配你的业务需求。整体接入流程如下:

第一步 第二步 第三步 第四步
联系商务,对齐业务需求 在控制台开通 Agent 服务 腾讯侧配置 Agent 的策略 业务侧调用 API 接口

三、第一步:对齐需求

审核 Agent 的审核效果依赖你的业务规则,因此接入的第一步是规则对齐:请将你的业务规则同步给商务或架构师,由腾讯侧做初步可行性判断,确认规则属于当前 Agent 可支持的范围内。

注意:说明:

注意:规则同步可参照以下模板:

注意:

注意:下面是一个标签及对应定义、规则及 case 的提供示例:

四、第二步:开通服务

1. 登录 内容安全产品控制台 ,在"多模态大模型审核"页面单击"初始化配置,立即体验",即可开通服务。

2. 开通后,"多模态大模型审核 > 策略管理"页面暂无策略,属正常现象。Agent 策略需由腾讯侧在后台完成配置后才会显示。

五、第三步:配置策略

策略配置由腾讯侧在后台完成,你无需任何操作。

配置完成后,"多模态大模型审核 > 策略管理"页面将显示策略对应的 BizType,示例如下。BizType 是后续调用接口的关键参数。

六、第四步:调用接口

BizType 建好后,则可进行接口层面对接,接口文档请详见:图文审核 Agent | 视频审核 Agent。

赞 (0)
上一篇 4天前
下一篇 4天前