模型路由 相关服务

这篇说说模型路由CMR与腾讯云网络生态产品的协同能力,包括VPC部署、安全组/ACL隔离、WAF风险检测、SSL证书配置,以及可观测平台监控、CAM权限管理和CLS日志收集。 网络与安全:CMR结合VPC、安全组、ACL和WAF实现网络隔离与大模型风险防护。 运维与监控:通过可观测平台、CAM和CLS管理CMR的指标、权限和日志。

相关产品
模型路由 产品页,含版本规格、价格与购买入口。

模型路由 CMR 作为腾讯云网络生态的核心组件,可与以下产品协同使用:

网络与安全类:

·私有网络 VPC:CMR 可部署在 VPC 内,并可结合安全组、ACL 和访问控制策略进行网络隔离与访问管理。

·安全组和 ACL:安全组 是一种虚拟防火墙,能够通过自定义的访问规则,控制业务流量。ACL 规则 是一种子网级别的可选安全层,用于控制进出子网的数据流,可以精确到协议和端口粒度,实现子网粒度流量的精细化控制。

·Web 应用防火墙 WAF:集成到 CMR,接入用户与大语言模型(Large Language Model,LLM)之间的交互链路,对用户输入的提示词(Prompt)和模型输出的生成内容进行检测,可识别提示词注入、内容违规、敏感数据泄露、算力异常消耗等大模型应用场景下的常见风险。

·SSL 证书:支持为 HTTPS 监听器配置符合条件的 SSL 证书,证书申请、托管和续期规则以 SSL 证书服务及控制台展示为准。

运维与监控类:

·腾讯云可观测平台:支持对已接入且已开启相应监控采集的 CMR 调用查看 Token、请求次数、时延等指标,具体指标范围、统计周期和数据延迟以控制台展示为准。

·访问管理 CAM:帮助你安全、便捷地管理对腾讯云服务和资源的访问。

·日志服务 CLS:收集和分析 CMR 的访问日志。

赞 (0)
上一篇 4天前
下一篇 4天前