腾讯云产品

  • 云原生智能网关 参数改写

    参数改写策略支持在请求转发给后端模型服务之前,对请求的 Body 参数和 Query 参数进行新增、编辑或删除操作。适用于以下场景。

    腾讯云产品 5天前
  • 云原生智能网关 日志投递至 CLS(数据观测)

    如需要日志持久化存储,用于排障、审计等场景,建议开启 CLS 日志服务,将网关日志投递到 CLS。开启前请先确认你已开通 CLS 日志服务。日志服务由CLS 日志服务提供,会产生费用,具体计费项。

    腾讯云产品 5天前
  • 云原生智能网关 MCP 市场

    当企业内部的 MCP Server 数量增多后,开发者难以快速发现和集成所需的 AI 能力,运维人员也无法集中管理已发布的 MCP 资源,容易造成资源孤岛和重复建设。

    腾讯云产品 5天前
  • 云原生智能网关 域名管理(操作指南)

    这篇将快速引导你如何在 AI 网关中,使用自定义的域名访问网关。 AI 网关提供了 IP 访问的方式,并没有提供域名接入点。因此需要在自己的域名 DNS 添加一个 A 记录,指向 AI 网关提供的 IP。

    腾讯云产品 5天前
  • 云原生智能网关 流量镜像

    流量镜像允许你在不影响线上用户的前提下,将模型 API 的部分生产请求异步复制到镜像模型服务,后台采集镜像模型的性能元数据(TTFT、TPOT、Token 数量、预估成本等),并与主模型进行并排对比。适用于以下场景。

    腾讯云产品 5天前
  • 容器服务 TKE 集群混部 Spark 任务实践

    Spark on Kubernetes 结合了 Spark 强大的数据处理能力与 Kubernetes 卓越的容器编排能力,实现了资源的统一调度和弹性扩展。这不仅显著提升了集群的利用率,还简化了运维管理,为企业提供高效、低成本的大数据云原生解决方案。

    腾讯云产品 5天前
  • 云原生智能网关 服务标签筛选

    基于标签路由通过为模型服务绑定标签(Key-Value 键值对),在模型 API 中按标签条件动态筛选可用的模型服务,实现灵活的服务选择。适用于以下场景。

    腾讯云产品 5天前
  • 云原生智能网关 删除网关

    这篇说明如何删除腾讯云云原生网关实例,包括手动删除和到期/欠费自动删除两种方式,并强调删除操作不可逆及资源释放注意事项。 手动删除:仅运行中/失败状态的实例可手动删除,勾选释放资源可一并清除关联数据。 到期自动删除:实例到期后保留7天,第8天系统自动释放资源并清除数据。

    腾讯云产品 5天前
  • 云原生智能网关 IP 访问控制

    IP 黑白名单访问控制用于在网关层按客户端来源 IP 限制模型 API 的访问权限。

    腾讯云产品 5天前
  • 云原生智能网关 缓存策略

    AI 缓存能力基于双层缓存架构(精确缓存 L1 + 语义缓存 L2),帮助企业降低 LLM 调用成本、提升响应速度。适用于以下场景。

    腾讯云产品 5天前