腾讯云产品

  • 云原生智能网关 域名管理(操作指南)

    这篇将快速引导你如何在 AI 网关中,使用自定义的域名访问网关。 AI 网关提供了 IP 访问的方式,并没有提供域名接入点。因此需要在自己的域名 DNS 添加一个 A 记录,指向 AI 网关提供的 IP。

    腾讯云产品 5天前
  • 云原生智能网关 流量镜像

    流量镜像允许你在不影响线上用户的前提下,将模型 API 的部分生产请求异步复制到镜像模型服务,后台采集镜像模型的性能元数据(TTFT、TPOT、Token 数量、预估成本等),并与主模型进行并排对比。适用于以下场景。

    腾讯云产品 5天前
  • 容器服务 TKE 集群混部 Spark 任务实践

    Spark on Kubernetes 结合了 Spark 强大的数据处理能力与 Kubernetes 卓越的容器编排能力,实现了资源的统一调度和弹性扩展。这不仅显著提升了集群的利用率,还简化了运维管理,为企业提供高效、低成本的大数据云原生解决方案。

    腾讯云产品 5天前
  • 云原生智能网关 服务标签筛选

    基于标签路由通过为模型服务绑定标签(Key-Value 键值对),在模型 API 中按标签条件动态筛选可用的模型服务,实现灵活的服务选择。适用于以下场景。

    腾讯云产品 5天前
  • 云原生智能网关 删除网关

    这篇说明如何删除腾讯云云原生网关实例,包括手动删除和到期/欠费自动删除两种方式,并强调删除操作不可逆及资源释放注意事项。 手动删除:仅运行中/失败状态的实例可手动删除,勾选释放资源可一并清除关联数据。 到期自动删除:实例到期后保留7天,第8天系统自动释放资源并清除数据。

    腾讯云产品 5天前
  • 云原生智能网关 IP 访问控制

    IP 黑白名单访问控制用于在网关层按客户端来源 IP 限制模型 API 的访问权限。

    腾讯云产品 5天前
  • 云原生智能网关 缓存策略

    AI 缓存能力基于双层缓存架构(精确缓存 L1 + 语义缓存 L2),帮助企业降低 LLM 调用成本、提升响应速度。适用于以下场景。

    腾讯云产品 5天前
  • 云原生智能网关 证书管理

    这篇档介绍如何在微服务平台 TSF 控制台上管理你的 SSL 证书,包括新建、删除、编辑证书等操作。

    腾讯云产品 5天前
  • 云原生智能网关 请求优先级调度

    当模型 API 触发并发数限流并开启请求排队时,默认所有请求按到达顺序(FIFO)排队等待,高价值业务请求与普通请求的等待时间无差异。请求优先级调度用于解决上述问题:开启后,当触发并发数排队时,网关按 Consumer(消费者)优先级决定出队顺序,高优请求优先处理。该能力适用于对客实时交互业务与批处理任务并存、需要对 VIP 用户做差异化保障的场景。

    腾讯云产品 5天前
  • Agent Runtime MCP 使用指南

    如何将 MCP Server 和 Skill 注册到 Agent Runtime 注册中心,并让自己的 Agent 发现、获取和使用这些资产。操作分为三步:发布可消费的版本、从注册中心查找并解析资产、在 Agent 中连接 MCP Server 或加载 Skill。

    腾讯云产品 5天前