对图片内容进行检测，识别其中不安全、不适宜的信息，帮助业务有效降低风险内容的传播。
相关产品
内容
安全平台 产品页，含版本规格、价格与购买入口。
一、标准内容安全服务
| 风险识别项 |
风险定义 |
示例场景 |
| 色情 |
识别涉及性相关低俗内容的图片，包含直接裸露、漫画色情、隐晦涉黄等。 |
直播间封面展示露骨的性暗示动作社区内发布含有真人或二次元色情细节的图像 |
| 暴恐 |
识别涉及暴力恐怖相关的图片，包含暴恐组织标识、刀具/枪支、血腥残肢、火灾爆炸等。 |
社群内发布带有恐怖组织旗帜的图片评论区上传令人不适的血腥残肢、受虐或严重暴力现场图 |
| 违法 |
识别涉及法律法规禁止内容的图片，包含赌博器具、毒品违禁品等。 |
朋友圈发布带有非法博彩网站信息的二维码图片聊天中传播疑似违禁药品、毒品实物或其吸食工具的图像 |
| 性感 |
识别非色情但旨在引起视觉挑逗的图片，包含男女性感着装、大面积露肤、暗示性姿势、亲密行为等。 |
社交平台动态中发布极短裙装或大面积露肤服装图片头像设置为透视装自拍或刻意通过俯拍展示的胸部特写 |
| 广告 |
识别涉及广告营销相关内容的图片，包含二维码、条形码、商业 LOGO、黑灰产引流水印等。 |
图片中嵌入指向第三方社交账号或非法渠道的二维码图像边缘隐藏有联系方式、低俗小广告等引流文字水印 |
| 自定义识别 |
支持用户自定义维护的违规图片库，通过相似图匹配技术来进行识别。 |
针对突发事件，将虚假新闻截图、谣言图片紧急加入黑库，实现全平台即时拦截识别图片中包含指向第三方平台的引流视觉标识、活动 Logo 或带有特定联系方式的定制化水印 |
二、AI 生成识别
识别图像中使用大模型工具的生成痕迹，判断图片是否存在 AI 生成风险，帮助业务确认内容的原创性。接口返回包含三种识别等级，相关概念如下：
| 识别等级 |
风险定义 |
| Block |
图像大概率由 AI 工具生成或经过 AI 大幅深度伪造。 |
| Review |
存在一定 AI 生成或辅助修改特征（如局部 AI 重绘、AI 换脸），建议人工复审。 |
| Pass |
图像未检测出明显的 AI 生成特征，判定为真实拍摄或人工手绘图片。 |
