腾讯云产品
-
云原生智能网关 数据脱敏
AI 网关支持在日志记录和请求转发两个环节对敏感数据进行脱敏处理,帮助你满足数据安全和合规要求。
-
云原生智能网关 使用 Kong Ingress Controller
Kong 通过 Ingress Controller 实现为 Kubernetes Service 配置插件、健康检查、负载均衡等功能。通过整合 Kong Ingress Controller,Kong 可直接关联到 Kubernetes 整个生命周期,Ingress Controller 将监听容器集群变化,并更新 Kong 的配置,以便能正确代理所有的流量,免去人工管理的困扰。
-
云原生智能网关 压缩策略
Token 压缩在请求转发到模型之前,压缩请求中体积大、重复多的文本,例如工具返回的日志、搜索结果、JSON 数据、代码和表格,从而减少模型输入 Token、降低调用成本,并为上下面窗口留出空间。压缩由网关自动部署的压缩服务完成,客户端无需修改代码。其核心工作原理是:网关按模型 API 关联的压缩场景提取请求中可压缩的文本,由压缩服务按场景选择的压缩器处理,再用压缩后的请求调用模型;场景开启原文取回时,被省略的内容会。
-
云原生智能网关 模型密钥
模型密钥 AI 网关安全调用大模型服务的核心凭证。企业/开发者通过 AI 网关对接多家 AI 厂商的模型 API 时,存在关键密钥场景:模型密钥用于存储各 AI 厂商的认证密钥(如厂商 AccessKey、API Secret),网关凭借这些密钥代表用户向厂商发起模型 API 调用。
-
云原生智能网关 Skill 市场
这篇说明如何在腾讯云AI网关Skill市场中搜索与下载已发布的Skill,Skill是Agent的原子能力单元,可被多个Agent API复用,修改一次同步生效。 Skill定义:对应A2A协议AgentCard中的AgentSkill对象,对内为AI网关侧可复用的能力配置。 搜索步骤:登录控制台进入Skill市场,通过关键词或标签筛选已发布Skill。
-
云原生智能网关 新建 AI 网关
这篇说说通过微服务平台控制台创建AI网关实例的完整流程,包括登录、配置参数、购买及验证,并说明所需权限和依赖条件。 配置参数:需设置网关类型、计费模式、地域、节点规格与数量等必填项。 结果验证:创建后在列表页查看状态为“运行中”即成功。 注意事项:需具备ApiGateWay_QCSRole角色及策略,并开通CLS日志服务。
-
云原生智能网关 MCP 服务管理
随着大模型应用的普及,越来越多的业务系统希望以 Model Context Protocol(MCP) 的方式将自身能力开放给 AI Agent 调用。AI 网关作为统一的 MCP 接入层,屏蔽底层差异,提供统一的接入点、协议转换、Tool 管理与多后端聚合能力,使你能够安全、便捷地把后端服务以标准 MCP 形态对外暴露。
-
云原生智能网关 Playground
在 Playground 中可对已创建的模型 API 进行在线调试,支持单 API 调试与多 API 对比调试,实时展示每次请求实际命中的模型以及 TTFT、TPS、Token、成本等指标,帮助你验证模型 API 的配置与连通性,并对比不同 API 的表现。
-
云原生智能网关 权重路由
这篇说说微服务平台AI网关的权重路由功能,通过按比例分配流量实现负载均衡、A/B测试、灰度发布和成本优化,配置时在模型API中选择路由策略并设置权重,权重总和不限且支持动态调整。 负载均衡:为同一模型多实例均匀分配流量,避免单点过载。 灰度发布:逐步调整新旧服务权重,小流量验证后全量切换。 成本优化:将大部分流量导向低成本服务,保留少量高质量服务。
-
云原生智能网关 日志投递至 CLS
如需要日志持久化存储,用于排障、审计等场景,建议开启 CLS 日志服务,将网关日志投递到 CLS。开启前请先确认你已开通 CLS 日志服务。日志服务由 CLS 日志服务 提供,会产生费用,具体计费项查看 费用详情。