内容安全平台 审核 Agent 业务实践

本服务基于自研或第三方大模型能力构建,支持文本、图片、视频内容形态的统一接入与联合审核,可根据自定义业务规则输出审核结果。服务通过 API 方式提供,调用后返回内容识别与审核结果;当检测到风险内容时,将附带对应的风险标签(Label),便于你进行后续处理与业务决策。

相关产品
内容安全平台 产品页,含版本规格、价格与购买入口。

一、核心能力

·多模态输入:支持文本、图片、视频等多种模态内容,并可结合多模态信息进行综合判断。

·大模型审核:基于自研或第三方大模型技术,适用于图文、视频等复杂场景下的风险识别。

·规则可配置:支持根据业务场景自定义审核策略与输出规则。

·结构化返回:支持按业务要求,结构化返回标签体系、判定结论、辅助信息等检测结果。

产品架构图

二、服务类型

本服务提供两种类型的接口:

1. 图文多模态审核 Agent 服务

·输入内容:图片、文本(二者至少传入一种)。

·输出内容:基于所传入的图片和/或文本信息的综合审核结论;命中风险时返回对应风险标签(Label)。

·调用方式:异步调用。

·处理时效:单次审核耗时通常为分钟级。

2. 视频多模态审核 Agent 服务

·输入内容:视频、图片、文本(三者至少传入一种)。

·输出内容:基于所传入的视频、图片和/或文本信息的综合审核结论;命中风险时返回对应风险标签(Label)。

·调用方式:异步调用。

·处理时效:单次审核耗时通常为分钟级。

·长视频切片:按每 8 分钟一段进行切片审核。例如,10 分钟视频将切分为 8 分钟和 2 分钟两段分别处理。

注意:说明:

注意:1. 上述两种服务的底层技术与审核能力一致,差异仅在于接口支持输入的内容类型;

注意:2. 本服务需与你先将业务规则对齐,因此暂不支持控制台自助配置。如需使用,请先联系你的商务或架构师进行需求评估与对接。

注意:你通过本服务提交的数据可能会传输至我们或第三方的大模型进行内容理解、推理与结果生成等处理,如你提交的数据涉及个人信息等敏感数据,请你确保已就我们与第三方大模型在本服务下的数据处理活动依法取得必要授权同意。相关条款可详见 内容安全平台服务条款。

赞 (0)
上一篇 4天前
下一篇 4天前